AI専門家はマスク氏を否認

Nov 27, 2023

(この 3 月 31 日の記事は、段落 6 でマスク財団が FLI への主要な寄付者ではなく主要な寄付者であることを示すために修正されました)

マーティン・コールター著

ロンドン（ロイター） - 人工知能の専門家4人は、研究の緊急停止を求める公開書簡（イーロン・マスク氏共同署名）で自分たちの研究が引用されたことを受け、懸念を表明した。

3月22日付のこの書簡には金曜日までに1,800人以上の署名が集まり、人間と同じような会話ができるマイクロソフト支援のOpenAIの新しいGPT-4よりも「強力な」システムの開発に6か月のサーキットブレーカーを要求した。 、歌を作曲したり、長い文書を要約したりします。

GPT-4の前身であるChatGPTが昨年リリースされて以来、ライバル企業は同様の製品の投入を急いでいる。

公開書簡では、大学学者やOpenAI、Google、その子会社DeepMindの現・元従業員を含む専門家らによる12件の研究結果を引用し、「人間と競争する知性」を備えたAIシステムは人類に重大なリスクをもたらすと述べている。

それ以来、米国とEUの市民社会団体は議員に対し、OpenAIの研究を抑制するよう圧力をかけている。 OpenAIはコメントの要請にすぐには応じなかった。

批評家らは、この書簡の背後にある団体であるFuture of Life Institute（FLI）が、人種差別や性差別的な偏見といったAIに関する差し迫った懸念よりも、想像上の終末的シナリオを優先していると非難している。 マスク財団は FLI への主要な寄付者です。

引用された研究の中には、以前Googleで倫理的AI研究を監督していたマーガレット・ミッチェル氏が共著した有名な論文「確率的オウムの危険性について」も含まれていた。

現在、AI企業ハギングフェイスの主任倫理科学者であるミッチェル氏はこの書簡を批判し、何が「GPT4より強力」とみなされるのかは不明だとロイターに語った。

「多くの疑わしいアイデアを当然のこととして扱うことで、書簡は一連の優先順位と、FLIの支持者に利益をもたらすAIに関する物語を主張している」と彼女は述べた。 「現在進行中の危害を無視することは、私たちの一部にはない特権です。」

彼女の共著者であるティムニット・ゲブル氏とエミリー・M・ベンダー氏はツイッターでこの書簡を批判し、後者はその主張の一部が「曲げられていない」と決めつけた。

FLIのマックス・テグマーク社長はロイターに対し、このキャンペーンはOpenAIの企業的優位性を妨げようとするものではないと語った。

同氏は「まったく笑える話だ。『イーロン・マスクは競争を遅らせようとしている』と言っている人を見てきた」と述べ、マスク氏が書簡の起草に何の役割も果たしていなかったと付け加えた。 「これは一企業の話ではありません。」

今のリスク

コネチカット大学の助教授であるシリ・ドリ・ハコーエン氏も、書簡の中で彼女の研究が言及されていることを問題視した。 彼女は昨年、AIの広範な使用がすでに深刻なリスクをもたらしていると主張する研究論文を共著した。

彼女の研究では、現在の AI システムの使用が気候変動、核戦争、その他の存亡の脅威に関する意思決定に影響を与える可能性があると主張しています。

彼女はロイターに対し、「こうしたリスクを悪化させるためにAIが人間レベルの知能に達する必要はない」と語った。

「本当に、本当に重要であるにもかかわらず、ハリウッドほどの注目を集めていない、存在しないリスクがあります。」

この批判についてコメントを求められたFLIのテグマーク氏は、AIの短期的リスクと長期的リスクの両方を真剣に受け止めるべきだと述べた。

同氏はロイターに対し、「私たちが誰かの名前を引用する場合、それはその人がその文章を支持していると主張しているだけだ。それは彼らがその書簡を支持しているという意味ではないし、彼らの考えをすべて支持しているという意味でもない」と語った。

同じく書簡の中で引用された、カリフォルニアに本拠を置くAI安全センター所長のダン・ヘンドリックス氏は、その内容を支持し、ロイターに対し、ブラック・スワン現象、つまり可能性は低いように見えるが、壊滅的な結果をもたらす可能性のある現象を考慮するのは賢明だと述べた。

公開書簡はまた、生成AIツールがインターネットに「プロパガンダと虚偽」を氾濫させるために使用される可能性があると警告した。

ドリ＝ハコーエン氏は、マスク氏が署名したことは「かなりの金持ち」だったと述べ、市民社会団体「コモン・コーズ」などが文書化したマスク氏のプラットフォーム買収後にツイッター上で誤った情報が増加したとの報告を引き合いに出した。

Twitterは間もなく、研究データへのアクセスに対する新たな料金体系を導入する予定で、このテーマに関する研究が妨げられる可能性がある。

「それは私の研究室の研究と、誤った情報や偽情報を研究している他の研究室の研究に直接影響を与えました」とドリ＝ハコーエン氏は語った。 「私たちは片手を後ろ手に縛られて手術をしています。」

マスク氏とツイッター社はコメントの要請に応じなかった。

（マーティン・コールターによる報告、フィリッパ・フレッチャーによる編集）