AIエージェントの信頼性と安全性、必要な規制を考える

心理学・神経科学者のゲイリー・マーカス氏が、AIエージェントに計画や取引を任せる際の信頼性と安全性を論じます。具体的なサイバー攻撃の事例を手がかりに、企業の自主規制や国際的なルール、AIリスクの捉え方を取り上げます。

■ エージェントの能力とリスク
- 指示への追従、誤作動の影響、人間による監督の役割
- サイバーセキュリティ上の懸念と、絶滅リスクをめぐる見方
■ 安全対策とガバナンス
- 企業の自主規制、製品の一時停止や国際的な基準・執行
- AIを生活に導入する際の判断材料と、技術の対象範囲

AIの利用者や、規制・安全性に関心のある方に向けた内容です。金融など重要な用途に任せる前に、信頼性を確かめる視点や、必要な社会的対策について考える手がかりを得られます。