このニュースはあなたを笑顔にするかもしれませんが、それは何でもありません。オランダの NGO パックスによると、マイクロソフト、インテル、アマゾンは、致死性の人工知能を開発する可能性が最も高いテクノロジー企業の 1 つです。スカイネットと殺人ロボットの時代は私たちが思っているよりも近いのでしょうか？
「マイクロソフト、インテル、アマゾンは不良学生だ」
パックスと呼ばれるオランダの平和団体は、自律型殺人ロボットを開発するリスクが最も高い企業50社のリストをまとめた。このランキングを作成するために、NGO は以下に基づいています。人工知能分野への企業の関与、そしてまた軍事分野における政府との関係と前例。マイクロソフト、インテル、アマゾンは、ボストン・ダイナミクス・ロボットの印象的なビデオが増えているにもかかわらず好調なグーグルとは異なり、業績が低迷している。
マイクロソフトが危険にさらされているとみなされる企業の1つであるとすれば、それは同社が人工知能に基づいた非常に物議を醸す兵器を開発していないことを公式に確認していないからだ、とNGOは述べている。私たちは、JEDI プロジェクトの枠組みにおける Microsoft とアメリカ国家との協力がおそらく最も重要な点であると考えています。 Google側は、このプロジェクトに参加したくないことを認めた。さらに、軍事分野に特化した HoloLens 2 ヘッドセット恐怖を裏付けるだけです。
Microsoftは自社を擁護するがPAXは反論
この発表を受けて、Microsoft Research の Eric Hovitz 氏は PAX に次のように語った。
Microsoft は、人工知能テクノロジーの責任ある開発と使用を優先しています。 Microsoft の全社 Aether 委員会は、人工知能テクノロジの機密性の高い使用を真剣に受け止めており、機密性の高い AI テクノロジの高いリスクを人間が永続的に引き継ぐことを監視する重要な必要性を含む、管理とガイドラインについて会社の経営陣に推奨事項を作成するために慎重に審議しています。
PAX のレポートの著者である Frank Slikper 氏によると、Microsoft のこの声明は同社の公式見解とはみなされません。同氏にとって、自社の研究が自律型致死兵器の開発に寄与することを防ぐためにテクノロジー企業がとるべき対策は次のとおりだ。
- 自律型致死兵器の開発に寄与しないことを公に約束する。
- 致死兵器システムや自律型兵器システムの開発や生産には関与しないという明確な方針を確立する。
- 従業員が自分たちが取り組んでいることについて十分な情報が得られるようにし、関連する懸念事項についてオープンに話し合えるようにします。
21社が高リスクと判断
PAX がリスクがあるとみなしている企業は、Microsoft、Intel、Amazon だけではありません。報告書によると、12か国に拠点を置く50社が懸念しており、そのうち21社が高リスクとみなされている。この中には、兵士が戦闘地域をリアルタイムで分析できるようにする AI ベースのシステムを開発した CIA 支援の企業である Palentir も含まれています。
人工知能に基づく自律型兵器の危険性を疑うなら、カリフォルニア大学の科学教授スチュアート・ラッセルは次のように考えています。
自律型兵器は、1 人で 100 万、1 億の兵器を発射できるため、必然的に拡張可能な大量破壊兵器となるでしょう。
軍事目的の人工知能の開発については、企業内でも議論の的となっています。マイクロソフト社員も抗議していたHoloLens 2 ヘッドセットのデザインが軍事目的であることを知ったとき、Satya Nadella への公開書簡を公開しました...サラ コナー、どこに隠れていますか?
