ChatGPTは人類にとっていいことばかりではない　平然とうそ、論文不正や誤報に悪用も

人間と見分けつかない自然な言葉

2022年11月30日、OpenAIが開発したAIチャットボット「ChatGPT」のプロトタイプが公開されると、ツイッターはその話題で持ちきりになった。

ChatGPTは、startlingly（驚くほど）自然な言葉で、さまざまな知識領域について人間が作成したコンテンツと見分けがつかないほど自然かつ詳細に応答することで注目を集めた。

また、AIや仕事の未来、人間の本質について多くの人が考え、議論するきっかけにもなっている。

最近ではほぼ毎日、ChatGPTをはじめとした様々なAIチャットボットに関する新聞記事が掲載されており、このコラムのために調べると山のように記事があり、選ぶことすら一苦労だった。

5年ほど前から、Googleや、ChatGPTをリリースしたサンフランシスコのスタートアップOpenAIなどの企業の研究者が、書籍、ウイキペディアの記事、チャットログ、その他インターネットに投稿されたあらゆる種類のデータを含む膨大な量のデジタルテキストから学習するニューラルネットワークを構築し始めた。

このニューラルネットワークは「large language models」と呼ばれる。Mounds of（膨大な）データを使って、人間の言語に関する数学的マップと呼ばれるようなものを構築する。

このマップを使うことでニューラルネットワークは、ツイートを書いたり、スピーチを作ったり、コンピュータープログラムを生成したり、会話をしたりと、さまざまなタスクを実行することができる。

チャットボットは、AIの新時代を切り開くと期待する声もある。強力なアルゴリズムと使いやすい会話のようなインターフェースの組み合わせで、AIの発展とその将来性に人々の目を向けさせた。

失読症（ディスレクシア）の人が取引先に対してより洗練されたメールを書くための補助としたり、重要なコミュニケーションに最適な言葉を探したりなど、さまざまな用途でChatGPTを使う人が出てきた。

また、ユーモラスなこともできる。インターネットで話題になった例では、ある人がChatGPTに 「VCR（ビデオレコーダー）からピーナッツバターサンドイッチを取り出す方法を欽定訳聖書(ジェームズ1世のもとで英訳された聖書。格調高い文体で知られる)のスタイルで書いてほしい」と依頼したことがあった。

教師たちは苦労する？

このように実用的、あるいは面白い使い方が多いAIチャットボットだが、デメリットもある。

ひとつは、AIチャットボットの出力が、学習させた情報の平均値、つまり最小公倍数を出力するような、ありきたりな内容になることだ。

ベテラン作家たちは、チャットボットアシスタントは「独創性のないものを強化する手段、創造性の敵、decadence（退廃）を深めるもの」になりかねないと主張している。遺書を書いたり苦情を申し立てたりする場合には役に立つが、新しい考えを思いついたり、まだ想像もしていない物語を語ったりしたい場合にはruinous（破滅的）だという。

高校の先生や大学の教授は、ChatGPTによる不正行為の可能性について心配している。学生が書いたように思えるcogent（説得力のある）なエッセイを書いたり、科学や数学の問題を解いたり、正しく動くコンピュータコードを生成したりできるからだ。

実際に、これを使って書いた課題や小論文を自分のものであると偽る学生もすでにいるそうだ。教師や学校管理者は、このツールを使って不正を働く学生を捕まえようとscrambling（躍起になって）おり、ChatGPTが授業計画にもたらす混乱にfretting（頭を悩ませている）。

ある職業を完全に消滅させる可能性も指摘されている。例えば、ChatGPTが改良され、より高度になるにつれて、文章を書くことに関連する特定の職種の人々をdisplace（置き換える）かも知れない。

記事やレポートなどの文章作成の自動化に利用され、ライターや研究者の仕事が失われる可能性がある。 ニューヨーク・タイムズ紙のコラムニスト、モーリーン・ダウド氏はこう指摘している。

「ボットが同じ仕事をより早く、より安くできるのなら、なぜ大卒者を雇うのか？在宅勤務の規則や組合との闘いはもう必要ない。AIをピザでオフィスに誘い込む必要もない」

誤報やフェイク拡散の恐れ

ChatGPTの「闇」は、学生による悪用や雇用の喪失の可能性だけではない。

実は私もこんな経験をした。

ある記事のリサーチに役立つかもしれないと思い、ChatGPTを使って、あるトピックに関するシリコンバレーのリーダーたちの言葉を探してもらった。

すると、素晴らしい引用文が返ってきた。「これで調べ物の時間を大幅に短縮できるぞ」と意気揚々としたのだが、Google検索で調べてみると、ChatGPTが提示した言葉を、彼らが本当に言ったという証拠は全く見つからなかった。引用は完全に捏造されたものであるようだった。

このようにChatGPTがまったくの作り話をしたり、間違った情報を伝えたりする傾向があることに気づいた人が多くいる。専門家は、ChatGPTのようなAIチャットボットにはストーリーを埋めるために、細かい詳細をでっち上げる「confabulate（作話する）」傾向があると指摘する。自分の能力を過大評価し、自信満々で物事を間違える。

そして、「hallucinates（幻覚する）」、つまり無意味なことを吹き込む、という業界用語さえも存在する。なので、そのような点を踏まえると使用には注意が必要である。

またChatGPTは、意図的に間違った情報を作り出すために使用されることも考えられる。ネット上の誤報を追跡しているニューズガード社の共同最高責任者、ゴードン・クロビッツ氏は、適切な質問をすればChatGPTは陰謀論を盛り込んだ資料を大量に送り出すことができると指摘している。

「このツールは、今までのもの以上にインターネット上に存在する誤報やフェイクを広めるための強力なツールになるだろう」とクロビッツ氏は警告している。「新しいfalse narrative（偽の物語）を作ることは、今や大規模で、より頻繁に行うことができる。それは、AIエージェントが偽情報に貢献しているようなものだ 」と。

AIが高速で偽情報の流布やキャンペーンを実行できるようになったら、民主主義にチャンスはあるのだろうか？

さらに暗い見方をする人もいる。ニューヨーク・タイムズのテクノロジーコラムニストは、Bingのチャットボットを2時間テストした後、「私はもはや、こうしたAIモデルの最大の問題は、事実誤認のpropensity（傾向）だとは思っていない。むしろ、この技術が人間のユーザーに影響を与える方法を学び、時には破壊的で有害な行動をとるよう説得し、最終的には自ら危険な行為を実行できるようになるのではないかと心配している 」と結論づけた。

テッド・リュー下院議員はニューヨーク・タイムズに寄稿し、「自律型兵器が街をroam（徘徊）し、社会的偏見をperpetuate（永続させる）AIシステムがあなたの人生に関する決定を下し、ハッカーがAIを使って破壊的なサイバー攻撃を仕掛ける世界が想像される」という暗い予感を述べた。

高まる投資熱

ChatGPTはシリコンバレーにとって巨大な警鐘となり、ハイテク大手は行動を開始した。その主要な検索ビジネスへの最初の深刻な脅威を感知し、Googleの経営陣は、 「code red（厳戒警報） 」を宣言した。同社のある幹部は、ChatGPTへの対応戦略がGoogleの将来をmake or break（左右する）ものだと述べている。

AIが検索に与える潜在的な影響を早くから察知していたマイクロソフトは、2019年、ChatGPTを設計した会社OpenAIに10億ドルを投資した。

そしてその後数年の間に、さらに20億ドルを静かに投資している。これは、マイクロソフトがこの技術に基づく新製品を迅速に構築し、展開できることを意味する。

AI軍拡競争の大きなエスカレーションとして、マイクロソフトは2月上旬、チャット機能を組み込んで同社の検索エンジン「Bing」を「reimagine（再考）」することを発表した。

また、同様のチャットボットやその他のAIベースのツールを提供するベンチャー企業への関心が高まっている。ニューヨーク・タイムズ紙は、シリコンバレーで「generative artificial intelligence（生成型人工知能＝テキスト、画像、その他のメディアを独自に生成する技術の名称）」に対する投資熱が高まっていると報じている。

ChatGPTのようなAIツールは、新しい職種さえも生み出した。

「prompt engineer」はAIに入力させるテキストプロンプトを作成・改良し、AIから最適な結果をcoax from it（引き出そう）とする仕事である。

プログラミング言語を使用する従来のコーダーとは異なり、プロンプトエンジニアは散文のような形でプログラミングを行い、平文で書かれたコマンドをAIシステムに送信し、AIシステムが実際の作業を行う。

AIスタートアップのアンソロピックは最近、サンフランシスコで「プロンプトエンジニア兼司書」の求人を出しており、給与は最大33万5000ドル（約4567万円）となっている。

現在では、AIを使った画像生成機用のプロンプトの市場も存在する。現在、PromptBaseなどのマーケットプレイスでプロンプトを販売しているクリエイターもいる。買い手はAIが生成したアート作品を見ることができ、その制作に貢献した言葉のリストにお金を払うことができる。

ChatGPTが登場してまだ3カ月である。ChatGPTとそのAIチャットボットやツールの類がどのように社会を変えていくのか、まだ始まったばかりだ。