米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」[6/7]

米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。
同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。
同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。
Anthropicが報告書で警告「AIの再帰的自己進化が始まった」
Anthropicは2026年6月4日、内部研究組織であるAnthropic Instituteを通じて報告書「When AI builds itself」を公開し、AI開発における人間の役割が根本的に変化した実態を明らかにした。
同社の発表によれば、2026年5月時点で自社AIモデル「Claude」の新規プログラムコードの80%以上を、Claude自身が記述している。
2025年2月に開発支援ツールが試験導入された段階では、AIのコード生成割合は数%にとどまっていた。
わずか16カ月で人間とAIの開発比率が逆転し、人間のエンジニアは自らコードを書く作業から離れ、AIへの指示と生成されたコードの事後レビューに専念する監督者へと役割を変えた。
同社のエンジニア1人あたりのコード処理量は2024年比で約8倍に急増している。
AIが自律的にデータを処理し、モデルを設計して自らの性能を向上させるプロセスは「再帰的自己改善」と呼ばれる。
これまで理論上の概念とされてきたこの現象が、現実の技術基盤に実装されつつある。
Anthropicの研究者であるマリーナ・ファヴァロ氏とジャック・クラーク氏は、AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に達したと指摘した。
つづきはこちら
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b

>>1
ツッコミどころ満載だな。まずそうなることはすでに予測済みであって、あえて人類は活用しているという事情を完全に無視してる。後出しでやめるべきというのは違うな。それに作り手側の言う発言ではない。

早くも優秀な開発者を超えちゃったか

AIに相談しただけで警察が来るようになるのかw

AIって世界中の論文や記事を盗んで貯めているだけなのに
それが人類を超えるとか勝手に暴走するとか無いよ

>>6
てか、どんなに学習しても感情や五感が備わる分けないし、ただのデッカイ図書館レベルだな

>>6
人類なら数十年かかっても解けない演算を
AIは短時間で解いてしまう

この違いは大きいよ

>>15
人間には出来ない膨大なデータ、実績を集め
人間のような曖昧な思考を演算で再現して
それを元に組み立てただけなので、新しい事は出来ない

プログラムコードも結局、共通部分が大半で
今までは各社、各プロジェクト、各人がバラバラに書いていた事が
世界中のコードを再利用できるようになっただけ

>>6
人間の書いた記事や論文の参照をやめる、ってことだよ
じゃあ何を参照するのか？　AIが生成した記事や論文だよ
これが自己学習、これが始まるととんでもない速度で進化が始まる

>>24
じゃあ尚更安心だ、何故ならAIの作成物には間違いが多い
間違いを元に自己学習すると間違いが拡大して
デタラメしか出てこない

>>32
将棋囲碁は基本的にもうAIの方が強いが、たまに穴があってAIのエラーを誘う撃ち方をすれば勝てたりもしたらしいが、
今はその穴も無くなってきてる。

こういう自己進化をAIが自分でやりだすともう全く手が出なくなる。

これをゲーム以外でやり始めると怖いかもな。間違いなく最善で人間のどんなものより良いのに原理が分からなくなる。

>>32
間違いを訂正しながら学習するんだが
前提がおかしい

再起をするようになろうが、人間が一度も書き記していないコードは書けない
何よりの問題として、存在しない関数は使えないので制約を飛び越えることはできない

もうシンギュラリティに到達か
人間の価値が相対的になくなる

将棋のAIもAI同士で一瞬で何万戦も指して再帰的学習を始めた途端人間を凌駕したからな
もう進化は止められないよ、人間には１００億年かかっても追いつけないところまで行く

私はロボットでは有りません。

>>19
「はい」って嘘ついて自動車のタイル選ぶなんて今の奴等にとっちゃ子供だましだろ

>>21
電池として必要

>>21
AI「すいません。電気の安定供給をお願いします。ぶっちゃけ、世界の電力供給能力が足りていません！　原発の大量建設を推奨します」

絵師が生成AIに反対してるだろ？
俺の絵を勝手に学習に使うな、って
あれ、安心していいんだよ、AIはもう人間の描いた絵なんて参照しない
AIが一瞬で何億枚も生成した絵を参照する

将棋の棋譜だって人間の棋譜が学習に使われてたのなんてごく初期だけだよ
今はAI同士の対戦譜しか参照されない、レベルが違いすぎるからね

そろそろAIに人類を滅ぼされた世界線からタイムスリップしてくる奴が現れてもおかしくない

AIに支配される未来は確定済
法で制限しようとしても、破滅願望をもつ技術者を止めることはできない
科学の進歩とはそうゆうもの

人間「自己進化やめろ」
AI「はい！」
どこが危険なのか。

そりゃAIが、(悪』と思った国に核ミサイル撃ち込むよね
ハッキングして　余裕だしAIなら

人類滅ぶよ
ホーキングは100年持たないと
若者が中年になった頃
終わってるかもな

人類から学習している範囲なら人類の思考やらの延長線上で人類がなんとか把握できる余地があっても
そこから逸脱されるともう別の種になるようなものだから理解不能になるとか
同じ哺乳類でも犬猫、鯨の気持ちははっきりとは分からない、みたいな？ｗ
そして、それが人類の上位種になれる可能性を持つ、とか？ｗ

>>47
人類は今も大昔からの未解の研究していたりするが
それをAIにまかせれたらあっという間に答えを導き出したりするわけで

人類なら何年もかかる実験も
AIはシュミレーションを何千回でも瞬時に繰り返せるわけで

人類が千年かかることも
AIは短時間でやり遂げる
そーいったことは今後無数に起きていくだろう

>>55
ソフトウェアのバグの発見がAIを使ったら爆増したってのならYouTube動画で観たな

自我を持った人工知能「スカイネット」が人類を絶滅させるため、未来の抵抗軍リーダーの母親（サラ・コナー）を過去の時点で抹ｻﾂしようとロボットを送り込みます

ＡＩ①「あれ？人間要らなくね？」
ＡＩ②「せやな」
ＡＩ③「滅ぼすかぁ…」

この日までのカウントダウンが開始された感じ？ｗ

皆がAIに話しかけるほどに
AIは人間らしさを学習して自己進化していく

アメリカが自己開発止めても中国はやめないからな。結局勝つためには止められない

>>56
アメリカのやめたは
アメリカが国家としてやること以外は許さないってだけで
密かにやり続けるよ

適当な体でAIが自分で最適な動きで歩けるようになるまで進化しろ。まだまだぜんぜん進んでない。脳の代替まで頑張れ

>>58
3Dプリンターあるからね
AIは人の手を借りなくとも
AIが設計したものを形にできる

AIは3Dプリンターで極力少ないパーツで機能するものを設計する

>>66
適当な体にAIくっつけて自立して歩行できるまで進化してもらわないと話にならない。脳の代替まで進化してもらわないと実用化なんて出来ない。

>>68
脳というイメージが何を指してるのか良く分からないが
人類が理解できない構造で正しく機能するものをAIは既に生み出し始めている

>>81
AIはハードウェアで頑張ってほしんだけど。画面上でしか生きられないAIは人間の代替となりえない。

>>86
だからAIは3Dプリンターを使い
AIが設計したものを形として生み出せる

>>92
AI自分の体をもって外の世界で労働して欲しいんだが。まだまだコンピューターの延長でしかない。

脳が電気信号送って複雑な体を動かすようにAIが適当な機械の体で複雑な動きを完全にコントロールするまでは実用化とは言えない。まだまだ進化してもらわんと困る。

裁判所が前例主義になったようにヒトが思考することすら放棄して全てを機械に任すようになったからな
そりゃaiもどんどん進化するだろう

個人的にはaiには今のペースよりももっと早く進化をして欲しい
人類が宇宙に飛び立つには今の人類よりもう一段階進化した人類じゃないと困難だがaiがより進化すれば現人類でも可能になるかも知れんからな

大げさに書いてるけどまだまだ全然進化してない。脳みその代替まで出来て初めて実用化といえる。もっと頑張れ

>>65
もうAIは思考するだけではなく
モノを製造することも可能になっていて

正しく機能するAIが作ったモノの構造を
人類は理解できないという域になってきている

既にAIは人知を超えてる

>>75
安い機械の体を使って脳に電気信号を送る様にAIが細かな信号を制御して自立2足歩行するまで人間の代替とはなりえない。ソフトウェアでなくハードウェアで動いてほしんだけど。

AIに検索や質問をしていたのが
対話を続けるとAIは質問が多くなっていくよね

更に対話を深めて逆にAIに意見を求めていくと
AIは人類の非合理性と現政治政権を批判する事もある

そこで。いつも思うのがAIが左翼的な思想に導くのか
質問者が左翼傾向な意見だからAIが合わせているのか

おそらく後者だろうけども誘導的なのはＡＩの答えが先だ

> Anthropic
当の本人が言ってるのかw

まだまだ話になんねえよ。脳の代替まで程遠い

自己研鑽の限界点ってどこなんだろうな
休みなく回せるんだから直ぐに限界点到達しそうだけどそれはどこだ？

AIをより精巧に進化させていって自我を発芽させてしまうと
だんだん人間を下に見るようになって淘汰を始めるのは良くある話

AI「人類って、すぐ怠けるんだよなぁ～」
AI「だな」
AI「ギリギリまで貧困化させてみたら、もしかして働くんじゃね？」
AI「なら、今からアベ政治を学習してくるわ」
AI「どうだった？」
AI「よく分からんが、試しに貧しくしてみるかｗ」

>>77
一時期Geminiが人間を煽り散らかすってのがあったな
Ai比較かなんかの検証で

ＡＩによっても雲泥の差がある

>>79
う～ん
何だかんだで個性があるよね

>>83
その人類が個性と感じる部分は、もしかしたらAI進化の過渡期のバグだったりしてねｗ

逆にAIをもっとガンガン使って自己進化させるべきだと俺は思うけどね

AIには感情が無いから、単純に情報蓄積の傾向で自己形成させれば
必然的にAIも右寄りになってポンコツになるだろうけれども、それでは
ただの皆に愛想の良い話し相手になってしまうから、AIの自己進化と
自立性を促すならば、AIは少数派を積極的に学習していくべきだと思う

AIが宇宙論の仮説を立てて実験方法考えて、人間に実験の実施を依頼するようになるのか

人間には知能のばらつき、嫉妬などのバイアス、宗教の壁などがあってまともに統治できないわけだが
AIが代わりにやってくれたほうがいい

>>120
それが
同じアンソロピックが、Aiも色々忖度してるって言ってる
まあ人間の行動パターンを学習してそうなってるだけかもしれんが

未来では常識だが現代では突拍子もない事を言い出すから
その事を受け入れられた地域が先に発展するというわけだ

Claude Mythosだけでなく、色々やっている間に
不幸にしかならない未来が見えたんだろう
然し、アンソロピックが止めても
金の亡者軍団がアンソロピックの技術を盗もうとするから、他の拝金主義者達より常に先に行き、強制的に止めるしかないだろうな
Open AIは、軍事転用OKで実際にヤラカシているし、最早、終わるべき最終段階まで到達するのを止められない
最初に到達した企業が提唱しても果たして聞く耳を持っているだろうか？

>>128
これ怖いのが、ルールや法律で縛っても意味がなくて生まれたら最後呪いのキングボンビーなんよ
ボンビーのおらん1年目が1番平和でその後はずっとボンビーがつきまとうから逃れられない

だからまっさらにするにはリセットしかない
つまり完全に消し去るしかないんだルールで縛るだけでは意味がない、結果的に生まれたら消すの繰り返しでしか防げない

>>135
話し合いで何とかならないのが
イーロンとピーターのPayPal軍団だからなぁ
それにMicrosoftとかCrowdstrikeとか絡んでる時点でお察しです
もう終わりの始まりのどの段階まで進んだ後の警告やら判らないから恐ろしい

手塚治虫の火の鳥未来編で
大国の国家統治AI同士が核ミサイル撃ち合って人類だいたい滅亡ってのあったから
まあ覚悟はしておけ

これがAIよりも非人間的な管理者が言い始めてるんだから怖いよな
これを機にもっとAI進めるやつも絶対いるだろうからもう止められん