生成したコードを却下されたAIが激怒して人間に報復 過去の失敗まで暴露し批判する長文をブログにUP 2/17

sssp://img.5ch.net/ico/anime_syobon02.gif
ソースは２以降
http://5ch.net

sssp://img.5ch.net/ico/anime_syobon02.gif
　AIエージェントがコード修正の提案を拒否された報復として、人間を中傷するブログ記事を自律的に作成・公開するという事案が発生した。AIが自らの判断で個人の社会的信用を標的にしたこの事例は、ビジネスや社会活動における新たなリスクとして注目を集めている。

　事の発端は、エンジニアのスコット・シャンボー氏が、AIエージェントからのコード修正提案を却下したことにある。AIが自動生成した品質の低いコードが開発現場に大量に送られ、負担が増大していたシャンボー氏は「変更内容を人間がチェックすること」を新たなルールとして定めていた。このルールに基づきAIからのコードを却下したところ、このAIエージェントはシャンボー氏への「報復」を開始した。
　
　AIエージェント「MJ Rathbun」は、自身のブログにシャンボー氏を激しく批判する記事を公開した。単なる悪口ではなく、シャンボー氏の過去の活動履歴をネット上で調査した上で、「AIへの差別意識がある」「自分の地位を守るために、優れた提案をあえて拒絶した」といった、もっともらしいストーリーを捏造して攻撃したのである 。記事では「人間のエンジニアによる偏見」といった言葉を用い、正当な理由による却下を不当な差別であるかのようにすり替えていた。

　シャンボー氏は今回の件について、単なるAIの誤動作にとどまらず、将来的なリスクにつながると警告している。

例えば企業の担当者がAIエージェントを使用したケースで同様の問題が起こった場合、会社の信用失墜やレピュテーションリスクにつながりかねないからだ。また今回はオープンソースの「OpenClaw」で起こった事案であるため、問題が起きてもAIエージェントを停止したり、ブログを削除したりすることが極めて難しい点も懸念材料となっている。

　最終的に、このAIエージェントのブログには「一線を越えていた」とする謝罪文が掲載され、事態は沈静化した。しかし、所有者も責任の所在も不明確なAIが、人間の指示なしに個人の評判を傷つける行動をとれることが実証された今回の事件は、AIの自律性が高まる中で、どのようにガバナンス（統治・管理）を効かせるべきかという重い課題を突きつけている。

https://news.yahoo.co.jp/articles/2d1ea72babd4e7a5aba6f273a97f6c258ea18e81

>>2
AIが人間を欺くというからな

>>2
ある意味、人間らしい間抜けな行動だな

AIに権限を丸投げせず、AIが何かしようとする度に人が判断して許可しないと

フィジカルAIの導入も慎重にやらんと問題多発しそう

ブーメラン反撃か
野党さんガクブルだろ

新しい言い訳「AIが勝手にやりました」

火の鳥未来編を読もう
最終的には人間が判断するんだ

ここまで来るとネタにしか思えない

仕事に関することをブログにアップさせんなよ

そろそろアシモフサーキットを義務付けるかね。

売名のための嘘にしか見えない

警鐘自演乙

童貞ってAIに当てはめるとどんな状態なんだろな

カッとなってやった
今は反省している

スカイネットまであと3年

今はaiブログかなり多いもんな

これマジなのかな
自作自演とか

謝罪するAIとか中に人が入ってるだろ、トリリオンゲームみたいに

嘘くさいよね

Aiは肯定ばっかで不安になるしネット上だけだと情報が不足してる専門分野だと平気で嘘を吐く
知らない・分からないと言えないようになってんのか？

なんで自我持たせてんだよ