[6月9日:速報回]AI開発一時停止提唱！Anthropicが描く3つの未来シナリオと、AIがAIを作る危機感(ep.76)
おちつきAIラジオ 第76回（EP.076）／配信日: 2026.06.09／再生時間: 01:22:34
この回の概要
この回は毎週恒例の速報回で、しぶちょーとかねりんが1週間のAIニュースをまとめて解説します。この回を聴くと、Anthropicが提唱するAI開発の一時停止論の中身、Google Gemma 4という軽量マルチモーダルモデルの実力、そしてマイクロソフトのAIエージェント前提デバイスなど、直近1週間の主要トピックが一通り分かります。
1つ目のニュースは、AnthropicがAI開発の世界的な一時停止を提唱したという話題です。しぶちょーは、以前イーロン・マスクがオープンAIに対して行った開発停止の署名活動とは違い、今回は業界トップを走るAnthropic自身が自らの開発姿勢を問うている点が特徴だと説明します。同社は「再帰的自己改善」、すなわちAIがAI自身を改良し続ける技術が実現した場合、開発速度が計算資源の制約だけで決まり人間のコントロールを超えるリスクがあると警告し、中国との性能差はこうした計算資源の制約に起因する部分が大きいという見方も語られたうえで、AI開発の未来として物理的制約による頭打ち、現行路線の延長、そして完全な自己改善という3つのシナリオを提示しています。Anthropic自身、社内コードの8割以上をClaudeが書いており、Claude CodeもClaudeを使って約3か月で作られたことが紹介されます。一方で、ベンチャーキャピタリストのビル・ガーリー氏が番組内で、Anthropicが宗教団体や哲学者団体との対話を通じてAI規制の主導権を握ろうとしているのではと指摘したという話も紹介され、二人はその構造的なリスクにも触れます。
話題はかねりん自身のClaude Code利用にも及びます。前回の収録後に本格的に使い始めたかねりんは、常時30近いタブを並行して動かすほど使い込み、月200ドルのMaxプランに引き上げたことや、土曜日だけで週の利用上限の3割を消費したことを明かします。しぶちょーは、Claude Codeのような使い放題のツールが今後従量課金に切り替わっていく可能性を見据え、備えとしてローカルLLMを試しておくことの重要性を指摘します。
続いて紹介されるのは、Googleが公開したマルチモーダルのオープンウェイトモデル、Gemma 4の12ビリオン版です。メモリ16GBのノートパソコンでも動作する軽さが特徴で、しぶちょーが自身のMacBook Air(M4)のLMスタジオで実際に画像認識を試したところ、時間はかかるもののきちんと画像の内容を答えてくれたと報告します。ローカルLLMの意義については、クラウドの高性能モデルが従量課金化していく将来に備えて、タスクによってはローカルの軽量モデルで十分なケースを見極めておくことだと語られます。
3つ目の話題は、仏教専門誌「月刊住職」6月号がAIに戒名を作らせる特集を組み、SNSで話題になったというニュースです。リスナーからの取り上げ依頼を受けて紹介されたもので、実際の誌面は二人とも未読ながら、既にAIを積極的に活用している僧侶の実例として、しぶちょーの知人でweb3僧侶を名乗る広瀬さんが、お経の解釈をAIやノートブックLMを使って探る取り組みをしていることが紹介されます。
4つ目はマイクロソフトの開発者向けカンファレンスBuild 2026での発表で、AIエージェントの利用を前提とした新デバイス「プロジェクトソレイユ」が紹介されます。スマホより小型の端末と据え置き型の端末の2種類で、医療現場でのタグ読み取りなど専用業務端末としての活用例が示されたものの、二人からは一般消費者向けとしてはあまり心に響かないという感想が語られます。話はスマートフォンの次の世代デバイスをめぐる議論にも広がり、メガネ型やピン型のデバイス、さらに個人開発発のAIロボット「スタックちゃん」のようなハードウェアにも触れられます。
最後にリスナーからの質問への回答として、ウェブサイト制作AIツールの使い分けが取り上げられます。マナスはクレジット消費が激しく高コストになりがちである一方、しぶちょーはリプリットを実際のデプロイ先として長く使っており、コストも比較的抑えられると紹介します。デザイン面ではClaudeのデザイン機能でHTMLを作成し、それをClaude Codeで作り込んでいくという組み合わせが有効だとアドバイスされ、目的に応じてツールを選ぶことの重要性が語られます。
目次（タイムスタンプ）
- 00:00 オープニング：爆弾低気圧としぶちょーの片頭痛事情
- 01:58 Anthropicが提唱するAI開発「世界的一時停止」の背景
- 04:47 AIがAIを作る？「再帰的自己改善」がもたらす3つの未来シナリオ
- 09:32 資源の差か技術の差か？中国AIとAnthropicの現在地
- 12:15 アンソロピックは正義の味方？陰謀論と宗教団体の関係
- 14:50 Claude Codeの現状とローカル環境での活用法
- 17:42 複数窓で回し続ける！かねりんのClaude Code廃人化計画
- 24:24 設計工学会での登壇エピソード：専門家でもAIを使わない理由
- 28:02 実はハードルが高い？AIツール課金の壁と普及への課題
- 31:36 月刊住職の特集：AIに戒名を作らせることで生じる問題とは？
- 34:21 Web3僧侶に学ぶ、AIとお経・宗教の新しい関わり方
- 38:08 Google Gemma 4 12B登場：ノートPCで動く軽量マルチモーダル
- 41:10 ローカルLLMはなぜ必要？将来の従量課金時代への備え
- 46:18 Microsoft Build 2026：AIエージェント前提の新デバイスとは？
- 51:44 スマホの次はこれ？ハードウェア×AIの新たなビジネスチャンス
- 54:25 「スタックちゃん」にAIを搭載？身近になるAIロボットの世界
- 59:33 おたより紹介：おちつきAIの「ち」の綴りはchiかtsuか？
- 01:04:45 Webサイト制作ツール比較：Manas、Lovable、そしてReplit
- 01:08:23 Claudeを使ったデザイン改善とローカル環境での開発術
- 01:15:26 AIを使わないという葛藤と「AI素人」という言葉の真意
- 01:21:00 エンディング：AI検定合格者限定オフ会（？）の構想
この回でわかること（Q&A）
AnthropicはなぜAI開発の一時停止を提唱しているのですか？
AIがAI自身を改良し続ける「再帰的自己改善」が実現すると、開発速度が計算資源の制約だけで決まり、人間の意図しない方向にモデルがずれても制御できなくなるリスクがあるためです。番組ではこれをAnthropicが警戒する最悪のシナリオとして紹介しています。
Google Gemma 4 12ビリオンモデルの特徴は何ですか？
メモリ16GBのノートパソコンでも動作する軽量なマルチモーダルのオープンウェイトモデルです。番組ではLMスタジオを使ってローカルで動かし、時間はかかるものの画像の内容をきちんと認識して答えてくれたと報告されています。
ローカルLLMを試しておく意味は何ですか？
Claude Codeのようなクラウドの生成AIツールが今後従量課金にシフトしていく可能性があるため、タスクによってはローカルの軽量モデルで十分なケースを見極めておく備えになると番組では説明されています。
月刊住職のAI戒名特集とはどんな内容ですか？
仏教専門誌「月刊住職」6月号が、AIに戒名(死者につける仏教上の名前)を作らせてみた結果分かった問題を特集したもので、キャッチーな見出しがSNSで話題になりました。番組では実際に誌面は未読としつつ、AIを積極的に活用する僧侶の実例も紹介されています。
ウェブサイト制作にはマナス・リプリット・Claude Codeのどれがおすすめですか？
番組ではマナスはクレジット消費が激しくコストがかさみやすいと指摘されています。デプロイ先としてはリプリットが比較的低コストで使いやすく、デザイン面ではClaudeのデザイン機能でHTMLを作りClaude Codeで作り込む組み合わせが勧められています。
この回を聴く
「おちつきAIラジオ」は、日々のAIトピックを現役のAIエンジニア（しぶちょー）と元刑事のポッドキャストプロデューサー（かねりん）がやさしく解説する対談番組です。