主要AI企業「制御不能な重大リスク」への「キルスイッチ」含む安全誓約書に署名

英国政府および韓国政府は、Amazon、Google、Meta、マイクロソフト、OpenAI、xAI、中国Zhipu AIなどの主要なAI開発企業が、AIの安全性に関する自発的な誓約に署名したと発表した。これらの企業は、最先端AIモデルのリスクをどのように評価するかについてをまとめ、公表する予定だ。

英韓両国の政府は、火曜日にソウルで開幕する「AI Seoul Summit 2024」に先立って、AIに関する重大なリスクを緩和し、排除できない場合にはその「AIモデルの開発を継続したり展開したりしない」ことを誓約したと述べた。これは昨年11月に英国のリシ・スナク首相が主催した初のAI安全性サミットで発表されたブレッチリー宣言（Bletchley Declaration）に基づく動きだ。

スナク首相は今回の声明で「この誓約により、世界をリードするAI企業が安全なAIを開発する計画について透明性と責任を提供することを保証する」とし、「AIの安全性に関するグローバルな基準を設定し、この変革的技術の利点を引き出すための手本となる」とした。

この合意において、各社は「AIモデルやシステムを展開する前、また適切にトレーニングを行う前においてそのリスクを評価する」ことが取り決められる。さらに「重大なリスクが適切に緩和されなかったときに、許容できなくなるとするしきい値」、「レッドライン」を定めることが含まれる。このような極端な状況に対応するため、企業は、リスクの軽減を保証できない場合にAIモデルの開発を中止する「キルスイッチ」を導入する計画だと述べた。

OpenAIの国際問題担当VP、 アンナ・マカンジュ氏は「我々はAIが安全で全人類に利益をもたらすことを確実にするために、他の研究機関、企業、政府と協力し続けることを約束する」と述べている。

今回の発表は、各企業は昨年7月にホワイトハウスで行われたAI企業による「AIテクノロジーの安全、セキュリティ、透明性を維持した進歩を支援する」ための「自発的な誓約」も反映したものとなっている。

なお各社は会議の期間中に、エネルギー使用の問題、労働者の問題、誤情報や偽情報の蔓延といった問題に対するAIの潜在的な悪影響から世の中を守るための方法についても議論することになっているという。また、欧州連合はAI法を制定し、むやみなAI開発を取り締まるための取り決めをEU理事会で承認した。

Source: United Kingdom
via: CNBC, AP, Ars Technica