今、私たちの社会はAIが進歩し、AI無くしては生活できない社会がやってきました。
今後ますます、AIなくして語られない社会は考えられないでしょう。
さて、AI企業の一人者である米オープンAIからアンソロピックに転職した人工知能（AI）研究者ジェイコブ・コクソン氏（27）が、業界を去ることを決断したそうです。
同氏は、両社が自己改善型の人工超知能（ASI）の開発競争で
「人類の運命を賭けた危険な賭けをしている」
と批難しているそうです。
コクソン氏は過去3年間、AIの事前学習に携わっていたそうです。
以前はオープンAIに勤務をしていたそうですが、今年、AIに対してより慎重なアプローチをとっているとみなしたアンソロピックに転職したそうです。
しかし、コクソン氏はX（旧Twitter）への投稿で
「両社共に責任ある行動を取ってない。彼らは自己改善型の人工知能の開発に突き進み、人類の運命を賭けた危険な賭けをしている」
と主張しました。また
「AIを構築している当事者たちは、AIが2030年末までに人類を滅ぼす可能性があると本気で考えている」
と付け加えたそうです。
アンソロピックの安全性担当幹部エバン・ヒュービンガー氏も、Xでコクソン氏の主張を支持し
「われわれはAIが人類を滅亡させかねないと本気で考えている！」
として、AIが今後10年以内に人類を滅ぼす可能性は10％を超える、との認識を示したそうです。
ただし、現行モデルが人間に反乱を起こすリスクは『低い』としているそうです。
今、ロシアがウクライナを侵攻し沢山の人々が亡くなっています。
この短い期間で、AI搭載ドローンが戦場の形を変えました。将来は、この進化したAIが戦争の発端になり地球が滅亡するかもしれません。
その理由の一つに映画『2001年宇宙の旅』があります。
宇宙船に搭載されたコンピュータ（HAL9000）が探査ミッション遂行のために、乗員と話し合い協力するように命令されていました。
しかし、一方で密かに他の探査の任務について、乗員に話さず隠せという命令も受けていました。
これらの2つの矛盾に耐えきれず異常をきたし、ユニットの間違った故障予知を始めるなど奇妙な言動が起こります。
最後には自分を停止させようとする乗員を、排除しようと考えました。このことで
「乗員が（死んで）いなくなれば永遠に話さずに済む。ミッションは自分だけで遂行すればいい」
とHAL9000が考えたことから『コンピュータの反乱』の象徴と言われています。
これは映画内の話ですが、これ以上の恐ろしいことが起こっても間違いないほど、人類の科学技術が進んでいることは間違いないでしょう。
2001年宇宙の旅〔決定版〕 (ハヤカワ文庫 SF ク 1-19)
DETROIT: BECOME HUMAN -TOKYO STORIES- 1 (BRIDGE COMICS)
0 件のコメント:
コメントを投稿