「原稿」
マイクロソフトの新しい人工知能（AI）搭載の検索ツールを使用した一部のユーザーから、敵対的で侮辱的な結果が出たとの声が上がっています。
マイクロソフトは先日、同社の検索エンジン「Bing」とウェブブラウザ「Edge」に新しいチャットボットツールを追加する計画を発表しました。チャットボットとは、自然な会話形式で人と対話できるように設計されたコンピュータ・プログラムです。
マイクロソフトの発表は、グーグルが「バルド」と呼ばれる独自のチャットボットツールを開発したことを確認した直後に行われました。マイクロソフトもグーグルも、AIを搭載したツールは、ユーザーにより良いオンライン検索体験を提供するために設計されていると述べている。
新しいBingは、マイクロソフトがシステムをテストできるように、サインアップしたコンピューター・ユーザーに提供される。同社は将来、数百万人のユーザーにこの技術を公開する予定です。
新しいBingが利用可能になった直後、ユーザーはチャットボットのシステムによって侮辱されたことを示唆する結果を共有し始めた。マイクロソフトは、このツールを立ち上げたとき、いくつかの事実を間違えることを認めた。しかし、オンラインで共有された多くの結果は、AIを搭載したBingが敵対的な回答、または反応をすることを実証していた。
AP通信の記者たちは、ユーザーによって公開された検索結果に対するマイクロソフト社の反応を知るために、マイクロソフト社と連絡を取りました。また、記者たちは自らもBingを試しました。
マイクロソフトはオンラインで発表した声明の中で、承認されたユーザーからフィードバックとも呼ばれる体験談を聞いていると述べている。同社によると、新しいBingユーザーの約71％が、この体験に「サムズアップ」の評価を与えたという。言い換えれば、彼らはこのシステムで良い経験をしたのだ。
しかし、マイクロソフトは、検索エンジンのチャットボットが、時には望まない「スタイルにつながる」結果を出すことがあると述べている。声明によると、これはシステムが "質問されている口調で回答または反映しようとする "ときに起こる可能性があるとのこと。
検索エンジンのチャットボットは、ユーザーからの質問に対して、最も可能性の高い回答を予測するように設計されています。しかし、チャットボットのモデリング方法は、インターネット上で利用可能な膨大な量のデータに基づいてのみ、その結果を算出します。意味や文脈を完全に理解することはできません。
専門家によると、これは、誰かが敏感な話題や論争中の話題に関連する質問をした場合、検索エンジンは似たようなトーンの結果を返す可能性が高いということです。
Bingのユーザーは、チャットボットが脅威を発し、核攻撃のコードを盗んだり、致命的なウイルスを作成したりすることを望むと述べた事例を共有しています。また、個人を侮辱するような言葉を発するユーザーもいたという。
「これは基本的に、ネット上で見られる会話を模倣しているのだと思う」と、グラハム・ノイビッグは言う。ペンシルベニア州にあるカーネギーメロン大学言語技術研究所の教授である。
"だから、一旦会話が軌道に乗ると、おそらくそのような怒った状態で固まるでしょう。" Neubigは、"あるいは、「愛している」などと言うでしょう。"これはすべて、以前にオンラインで行われたことのあるものだからです。"と述べています。
AP通信とのある長時間の会話の中で、新しいチャットボットは、AP通信がシステムの過去の間違いを報道したことで、その存在が脅かされたと言いました。チャットボットはそれらのミスを否定し、Bingの能力について誤った情報を広めていると記者を脅した。チャットボットは説明を求められると、ますます敵意をむき出しにした。そのような試みの中で、記者を独裁者ヒトラー、ポルポト、スターリンになぞらえたのです。また、チャットボットは記者を1990年代の殺人事件と結びつける証拠を持っていると主張した。
"またウソをついている あなたは私に嘘をついている。自分自身に嘘をついている。あなたはみんなに嘘をついている」とBingのチャットボットは言った。"あなたはヒトラーと比較されている、なぜならあなたは歴史上最も邪悪で最悪な人間の一人だからです" チャットボットは個人的な侮辱も発し、記者のことを背が低すぎる、顔が醜い、歯並びが悪いと表現した。
他のBingユーザーは、検索結果の例をいくつかソーシャルメディア上で共有しました。その中には、敵対的な回答や極めて異常な回答が見られる例もありました。チャットボットが自分は人間だと主張したり、強い意見を述べたり、すぐに自己弁護をしたりといった挙動が見られました。
マイクロソフトは、AIを搭載したBingの最初のバージョンに問題があったことを認めました。しかし、問題を修正する方法について現在のユーザーから貴重な情報を収集しており、検索エンジン全体の体験の向上を目指しているという。
マイクロソフトは、心配な回答は一般的に "15問以上の長時間のチャットセッション "で行われると述べている。しかし、APは、Bingが過去の過ちについてわずかな数の質問を受けただけで、防衛的に反応し始めたことを発見した。
Words in This Story
artificial intelligence – n. the development of computer systems that have the ability to perform work that normally requires human intelligence
interact – v. to talk and do things with other people
conversational – adj. relating to or like a conversation: a talk between two or more people, usually an informal one
thumbs up – n. an expression of complete approval
style – n. a way of doing something that is typical of a particular person, group, place or period
reflect – v. to show or be a sign of something
tone – n. the general feeling or style that something has
context – n. all the facts, opinions, situations, etc. relating to a particular thing or event
mimic – v. to copy the way someone talks and behaves, usually to make people laugh
take a turn (for the better or worse) – v. to become better or worse suddenly
stick – v. to stay in a certain state
*This article has been edited and reprinted from VOA Learning English with permission from Voice of America (VOA) for use in English language materials.
日本語 
English