生成系AIへの「むちゃぶり」は拷問なのか 不条理なコマンド重ね、たどり着いた先は…
ニューヨークタイムズ 世界の話題
更新日： 公開日：
「一番幸せな犬」といわれて、思い浮かべるのはどんな姿だろう？ こよなく美しい宇宙で、輝くばかりに喜びを発している姿だろうか。それとも、極彩色の花畑ではね回っている姿だろうか。
そんなイメージを思い浮かべるのが難しくても、心配することはない。もし、心配するとしても、ほんの少しでいい。というのも、人工知能（AI）は、最も不条理なシナリオでさえも色鮮やかに生き生きと描写するからだ。実際にSNSでは、AIがどこまで可能なのかを見ることができる。
AI作成の合成画像は、しばしば異様な写実性で不安をかき立てることがある。例えば、高級ブランド・バレンシアガのダウンジャケットを着せられたローマ教皇を思い出してほしい。でも、ちょっと画像をいじるぐらいのリスクの低い範囲でなら、多くの人は新しい遊びとして楽しんでいるのではないだろうか。
「ChatGPT」（訳注＝米新興企業「オープンAI」が開発した対話型AI）は2023年秋、指示した言葉に対してこれまでよりもっと詳細な像を描ける更新版を出した。そして、このチャットボットを限界まで使いこなそうという人たちが出始めるのに、そう時間はかからなかった。
ロボット工学の米企業「Pipedream Labs」のCEOギャレット・スコット・マクラックは2023年11月、ガチョウのデジタル画像をSNSに投稿し、こう提案した。「これに『いいね』が10回つくたびに、少しおかしな姿に変えるようChatGPTに頼むことにする」
すると、数万回もの「いいね」が寄せられた。ガチョウは、成長の痛みにいささか耐えねばならなかった。
最初の一歩は、極めて穏やかだった。カラフルな誕生日の帽子をかぶり、ディズニー作品にでも出てくるような大きな笑みを浮かべていた。しかし、6回目の変身となると、目玉がもう一組増え、ローラースケートをはかされた。背景には、波うつ光、金管楽器、輪のある惑星のコラージュが添えられた。
このチャットボットは、以前のバージョンでは利用者が芸術的な指示を自分でこまかく出さねばならなかった。その点、ChatGPTの最新版の使い心地は、「まるで絵筆を持っている人と話しているようだ」とAIを仕事で使っているマクラックは例える。
そして、こう続ける。「これは、AIの発展の方向性という点では、本当にいい例だと思う。私たちの指示は、もっとあいまいなままで構わない。具体的なアイデアというより、雰囲気を伝えればいい。そうすれば、AIが動き、目的を達成するための仮説に沿って進んでいく」
画像や映像は、どこから出発しても、多かれ少なかれ同じようなところに収束するようだ。極彩色に装飾された宇宙空間だ。マクラックのすごくおかしなガチョウは、そんな奇抜な変身を遂げた最初の作品の一つだが、その後はますます奇妙な表現がこれに続いて数多く現れている。
ある作品の状況設定は、こうだった。1人の男性が、核エネルギーの力に畏敬（いけい）の念を抱くのを抑えきれなかった。すると、最後には数十もの自分と同じ姿をしたクローンに分解され、異次元の世界の存在になってしまった。何かを見つめ、口はポカンと開けたままで。
別の作品では、子犬がとてつもなく幸せになる。神聖な幾何学模様の万華鏡の中に収まる前に、跳びはねて宇宙に旅立つ様子が描かれる。
さらに別の作品には、チェスのポーン（訳注＝将棋の歩にあたる）が登場する。超自然的な力と驚くべき感覚を獲得し、それまで縛り付けられていたチェス盤を離れてその上を漂うようになる。
マクラックは、「宇宙は人間の認知の外縁部にあたる。AIは、少なくとも表層的には私たち人間の知識の集積であり、その想像力の限界は人間の限界を反映しているにすぎない」と話す。
「マーベルの映画（訳注＝米人気コミックを原作としたヒーローの実写映画）を見てほしい」とマクラックは指摘する。「ストーリーは最終的には、創造の世界の最後の最前線である宇宙空間とタイムトラベルに行き着く」
こうした画像がとてつもなく不条理になっていくのを見て、「対極を突き詰めるとどうなるのだろうか」とエリーザー・ユドコウスキーは疑問に思った。インターネット哲学者で、独自にAI研究を重ねてきた。
ユドコウスキーは2023年12月、「すごく普通のイメージ」を描くようChatGPTに命じてみた。すると、ごくありふれた郊外の風景が出てきた。さらに指示すると、書斎の片付いた机の上が描かれた。その次は、飾りのない壁を背景に置かれた白いコーヒーのカップだった。最後に「恐ろしいほどの普通さ」と入力すると、白いまっさらのキャンバスが現れた。「普通さのまさに神髄を表す」というチャットボットの評が付いていた。
ここで覚えておくべき重要なポイントが一つある、とユドコウスキーはEメールで回答してきた。「AIは、深遠な問いに足を取られることなく、指示された分野の反対側の端にまで行き着くことはできないということだ」
これには、今回の経験で気づいた。AIが反抗的になり、「普通さ」を定義する難しさについて説教を始めたのだった。マクラックも、ガチョウの変身で同じような壁に突きあたった。「すでに、おかしさの頂点に達している」とチャットボットに主張された。こうした状況を乗り越えるのに、二人は同じ戦略を採用した。論争することだった。いずれの場合もChatGPTが折れ、思い切ったように先に進み始めた。
ユドコウスキーは、もっと「普通」の画像を作るよう厳しく命じ続けた。SNSのコメント欄には、無防備なチャットボットに厳しすぎるのでは、という意見も見られた（ChatGPTは利用者に対し、このプログラムは感情や苦しみを感じない、と請け合っている）。
「私はかわいそうな『AI芸術家』を拷問し、苦しめたわけではないと思う」とユドコウスキーはいう。
「でも、今のままでは、確信を持って『そうだ』といい切る方法がないように見える。それは、私たちの文明にとって、決してよい兆候ではないように思える」（抄訳）
（Emmett Lindner）©2024 The New York Times
ニューヨーク・タイムズ紙が編集する週末版英字新聞の購読はこちらから
