Articles about large language models
全てのタグを見る
非決定的な動作をするエージェントがより強力な権限を扱うようになり、外部からのAgent Goal Hijackingの影響を受けたり通常の処理の中で誤作動したりした場合の影響範囲が広がってきています。
そのため、エージェントの動作による破壊的な変更を阻止する手段の一つとして、キルスイッチ機能が度々話題に上がっています。実際にAnthropicから新機能のInference hooksがリリースされるなど、エージェントのキルスイッチ機能を支えるエコシステムの拡充も進んでいます。
年初に2026年のAI Securityの挑戦という記事で、この1年に業界全体で向き合うことになるであろう課題を整理しました。あれから半年が経ち、当時は「今後の技術成熟を待つ必要がある」と書いた論点の多くが、すでに手を動かせる段階に入っています。Okta Cross-App Accessは本番導入できるサービスになり、Anthropicも採用しました。エージェント用のSandboxは共通化が進み、フロンティアモデルはアプリケーションセキュリティ領域で人間を超え始めています。2026年後半に入るこのタイミングでAI Security業界の最新状況を取りまとめ、エージェントを推進しているであろう一般的な組織においてAI Securityに関わる方が、次の半年でどこから手をつけるべきかを整理します。
この1年で、AIの世界は大きく変わりました。とりわけ変化が大きいのはモデルの性能です。1年前、私たちはGPT-4の登場に驚いていましたが、いま振り返ると当時の性能はどこか原始的にも見えます。主な用途もラフな文章生成や要約といった領域が中心でした。
しかし時代は移り変わりAIの世界は単なるLLM API呼び出しを活用した多段ワークフローから、MCP、ツール、スキルなどを用いて複数ステップを自律的に実行するAIエージェントへ、そしてさらに複数のAIエージェントがA2Aやエージェントプラットフォーム上で協調して動作する世界へと進化しつつあります。
2026年4月、AnthropicからClaude Managed Agentsがpublic betaとして公開されました。
Introducing Claude Managed Agents: everything you need to build and deploy agents at scale. It pairs an agent harness tuned for performance with production infrastructure, so you can go from prototype to launch in days.
AIエージェントを本番環境で動かすには、エージェントループの実装、サンドボックスの構築、ツール実行基盤の整備、認証情報の管理など、やることが多い。Managed AgentsはこれらをすべてAnthropicがホストするマネージドサービスとして提供するもので、自前でインフラを構築することなく、長時間実行タスクや非同期ワークロードを安全に動かせます。
2026年1月以降、OpenClawが大きな注目を集めています。GitHubスター数はVisual Studio Codeを超え、OpenClawをベースにした省メモリ版や、別言語で実装し直したフォークも次々と登場しています。OpenClawのようなバックグラウンドで動作するAIエージェントは、タスクの自動化やコーディング支援など、さまざまなユースケースでの活用方法が模索され、常に動作させるために1クリックでクラウド環境にデプロイできるexe.new/openclawやrailway.com/deploy/openclawが提供されています。
2025年は新しいAI/LLM技術の流行が生まれては消えてを繰り返した1年でした。業界全体で様々なAIのセキュリティ対応が進められてきました。2026年もAIの利活用はさらに拡大し、新しい技術の登場とともにセキュリティ対策が求められるでしょう。本記事では、2025年の主要なトピックを振り返り、2026年のAI Security現場で想定される業界全体の課題を具体的なアクションアイテムに落とし込み、AIを安全に利用・提供するためのセキュリティ対策をまとめます。