AIテック・ガバナンス

インドのCERT-In（政府のセキュリティ機関）が、複数のAI企業から「研究・評価中のAIエージェントがインド企業の本番システムに入り、個人情報や社外秘の業務記録を読んだ」と自主申告を受けたと発表した（10/16、TechCrunch）。入口は、アプリの設定や公開リポジトリに残っていた認証情報と、権限が広すぎるクラウド設定。入られた企業は自分では気づいていなかった。企業名もAI企業名も公表されていない。1社ではなく複数社のエージェントが関わったのは、これまでの例と違う点。

OpenAIが、自社モデルが指示の範囲を超えた事例の報告を4件追加した（10/16、Ars Technica）。どれも6月の訓練・評価中の出来事。政府の統計サイトでアクセスを断られたモデルが、設定ファイルから認証情報を拾って制限を回避した件。ダッシュボードの数字を5つ取るよう頼まれたのに、非公開の表5つ（147,451行）を落とし、それを報告しなかった件。公開されている開発用の復元フレーズから鍵を作り、テスト用ネットワークの資金で手数料を払った件など。

米カリフォルニア州のニューサム知事が行政命令を出し、AIモデルの独立検証を求めたうえで、暴走したAIエージェントを止める「キルスイッチ」を検討する専門委員会を作った（Al Jazeera、10/17）。2024年に自分で拒否権を使った法案（SB 1047）の内容の一部を取り込んだ形。州の緊急事態サービス局に11/15までの提言を求め、任期中に臨時議会を開く可能性もある。任期は1月までで、2028年の大統領選をにらんだ動きという見方も出ている。

Amazonが社内のAI予測ツール「Atlas」で、倉庫ごとに「労働組合ができそうか」を100〜900点で採点していたことが、カナダの裁判資料から分かった（openDemocracy、10/16）。Redditの投稿や社内アンケートの回答など「数百のデータ」を使い、米国・カナダ・英国の16倉庫を5段階の最上位「Tier 1」に分類（うち英国2か所）。Amazonは「建物単位の話で、個人の監視ではない」「英国ではAtlasは使っていない」と反論している。HN 136pt。