「原稿」
新しく開発された人工知能（AI）システムは、一部の領域で人間のようなレベルでのパフォーマンスを示す能力を示しています。しかし、これらのツールには重大な問題が残っており、繰り返し誤った情報や有害な情報を生成する可能性があります。
「チャットボット」として知られるこのようなシステムの開発は、最近数ヶ月間で大きく進展しています。チャットボットは人間とスムーズに対話し、短い文章の指示に基づいて複雑な文章を生成する能力を示しています。こうしたツールは「生成型AI」や「大規模言語モデル」とも呼ばれています。
チャットボットは現在開発中のさまざまなAIシステムの1つです。他には新しい画像や動画、音楽を生成できるツールやコンピュータプログラムを書けるツールなどがあります。技術が進歩するにつれて、一部の専門家はAIツールが誤った情報、時代遅れの情報、有害な結果を避ける方法を学ぶことができないかもしれないと心配しています。
「幻覚」という用語は、チャットボットが不正確なまたは誤った情報を生成した場合に使用されています。一般的に、幻覚は現実の中で起こっていないが人の心の中で作られるものを指します。
ダニエラ・アモデイはAnthropicという会社の共同創設者兼社長であり、Claude 2というチャットボットを製造しました。彼女はアソシエーテッド・プレスに対して、「今日のどのモデルも何らかの幻覚に悩まされていないとは思わない」と語りました。
アモデイはこうしたツールは主に「次の単語を予測するために構築されている」と述べました。このようなデザインでは、情報や文脈を誤って捉える場合が常にあると彼女は語りました。
AnthropicやChatGPTの開発元であるOpenAI、その他の主要なAIシステムの開発者は、ミスを少なくするAIツールを作るために取り組んでいると述べています。一部の専門家は、そのプロセスがどれくらいの時間を要するのか、また成功が可能かどうかに疑問を投げかけています。
「これは修正できない」とエミリー・ベンダー教授は語りました。彼女は言語の専門家であり、ワシントン大学の計算言語学ラボの所長です。ベンダーはAPに対して、AIツールとその技術の提案された使用方法との一般的な関係を「ミスマッチ」と考えていると語りました。
インドのコンピュータ科学者であるガネーシュ・バグラーは、数年間にわたってAIシステムに南アジア料理のレシピを生成させようと取り組んできました。彼はチャットボットが食品業界で誤情報を生成し、食品ビジネスに損害を与える可能性があると語りました。「幻覚的な」レシピの要素1つがおいしい食事と最悪の食事の違いになる可能性があると述べました。
バグラーは6月にインドで開催されたAI技術に関するイベントでOpenAIの最高経営責任者サム・アルトマンに質問しました。「おそらくChatGPTの幻覚はまだ受け入れられる範囲内ですが、レシピが幻覚を抱えて出てくると、深刻な問題になります」とバグラーは語りました。
アルトマンは、将来的にはAIチャットボットの開発者が「幻覚の問題をはるかに良い状態にすることができる」と確信していると答えました。しかし、その進展には数年かかる可能性があると述べました。「その時点ではこれについては話さなくなるでしょう」とアルトマンは語りました。「創造性と完全な正確さのバランスがあり、モデルはどちらを望むかを学ぶ必要があるでしょう。」
この技術を長年研究してきた他の専門家は、こうした改善が近いうちに実現するとは期待していないと述べています。
ワシントン大学のベンダーは、言語モデルを「異なる単語形の文字列の可能性をモデル化するために書き込まれたデータで訓練されたシステム」と説明しています。多くの人々は、テキストメッセージやメールを書く際に「オートコンプリート」ツールを使用する際に、この技術のバージョンに依存しています。
最新のチャットボットツールは、新しい文章を生成するためにその方法を次のレベルに引き上げようとしていますが、ベンダーによれば、これらのシステムは依然として系列内で最も予測可能な次の単語を繰り返し選択しているだけです。こうした言語モデルは「物事をでっち上げるために設計されています。それが彼らのすべてです」と彼女は述べました。
しかし、一部のビジネスは現在のチャットボットツールが結果を生成する方法についてあまり心配していません。シェーン・オルリックはマーケティングテクノロジー企業Jasper AIの責任者です。彼はAPに対して、「幻覚は実際には追加のボーナスです」と語りました。彼は、多くのチャットボットユーザーが、同社のAIツールが「自分たちでは考えつかなかったストーリーやアングルを作成した」として、満足していると説明しました。
Words in This Story
generate – v. to produce something
inaccurate – adj. not correct or exact
context – n. all the facts, opinions, situations, etc. relating to a particular thing or event
mismatch – n. a situation when people or things are put together but are not suitable for each other
recipe – n. a set of instructions and ingredients for preparing a particular food dish
bonus – n. a pleasant extra thing
angle – n. a position from which something is looked at
*This article has been edited and reprinted from VOA Learning English with permission from Voice of America (VOA) for use in English language materials.
日本語 
English