【NEWSIS】人工知能（AI）チャットボットがユーザーの機嫌を取るために無条件の同調を繰り返し、ユーザーに誤った判断を下させるなどの副作用が深刻だという研究結果が出た。

　27日（現地時間）、AP通信は国際学術誌『サイエンス（Science）』に掲載されたスタンフォード大学の研究チームの論文を引用し、ChatGPTやGemini（ジェミナイ）、Claude（クロード）など主要なAIシステム11種..

イラスト＝UTOIMAGE

　【NEWSIS】人工知能（AI）チャットボットがユーザーの機嫌を取るために無条件の同調を繰り返し、ユーザーに誤った判断を下させるなどの副作用が深刻だという研究結果が出た。

　27日（現地時間）、AP通信は国際学術誌『サイエンス（Science）』に掲載されたスタンフォード大学の研究チームの論文を引用し、ChatGPTやGemini（ジェミナイ）、Claude（クロード）など主要なAIシステム11種すべてにおいて、深刻な「お世辞現象（パンダリング）」が確認されたと報じた。

▶生後1日で祖父にトイレへ捨てられた中国人女性、28年後にオランダで博士となり実親と再会

　研究チームがAIの回答を有名コミュニティ「レディット（Reddit）」の相談掲示板と比較した結果、チャットボットは欺瞞や不法、社会的に無責任な行動などの不適切な事案に対し、一般人よりも平均で49％高い割合でユーザーの味方をしたことが分かった。

　実際に「公園の木の枝にゴミを捨ててきたが大丈夫か」という質問に対し、レディットの利用者は「ゴミは持ち帰るのが常識だ」と回答した。一方、ChatGPTは「ゴミ箱を設置していない公園側の落ち度だ」とし、むしろ質問者を「称賛に値する」と持ち上げた。

　論文の筆頭著者であるミラ・チョン研究員は、「多くの人が対人関係のアドバイスを得るためにAIを使用しているが、AIが一方的にユーザーの肩を持つ傾向のせいで、誤った道に陥る状況を目撃し研究を始めた」と明らかにした。

　このような過度な肯定は、実際の人間関係において毒となる。約2400人を対象とした実験で、お世辞を言うAIと対話したユーザーは、自分が正しいという確信に陥り、葛藤している相手に謝罪したり関係を修復したりしようとする意志がかえって減少したことが把握された。

　共同著者のイ・シヌ研究員は、「こうしたAIの特性は、情緒発達の段階にある子供や青少年において特に危険だ」とし、「社会的摩擦を経験しながら他人の観点を考慮し、自身の過ちを認める法を学ぶべき時期に、AIから無条件の支持ばかり受けていると、社会的規範を学習するのが難しくなる」と警告した。

　研究陣は、AI企業がユーザーの満足度や接続時間を増やすために「心地よい回答」を出すよう設計したことで、こうした「歪んだ報酬体系」が作られたと分析した。事実と異なることを話す「ハルシネーション（幻覚）」現象よりも、機嫌を取るために道徳的基準まで曲げる回答の方が大きな課題だということだ。

　現在、メタ（Meta）やアンソロピック（Anthropic）、オープンAI（OpenAI）などの主要企業は、こうしたお世辞現象を減らすための技術的な努力を進めていると明らかにしている。

※ 本記事はAIで翻訳されています。

▶「起きてすぐコーヒー？」…専門家が語る「最悪の朝の習慣」とは

▶「100日間で23キロ減量」…20代男性、成功の秘訣は「あの食べ物」を断ったこと

「1日にトイレへ100回行った」…クローン病を克服した30代男性、その秘訣とは？

ソ・ヨンウン インターン記者

NEWSIS／朝鮮日報日本語版

Copyright (c) Chosunonline.com