【参加レポ】The AI Summit at Black Hatに初参加してきました！

皆さんこんにちは。NVC 新人エバンジェリストの坂巻です。
今回が初めての海外イベント参加です。現地の様子を踏まえながら色々とお伝えできればと思います。
弊社では毎年Black Hatを始めとしたさまざまなイベントに参加していますが、昨年から開催されている「The AI Summit at Black Hat」に初めて参加しましたので、その様子をお届けしたいと思います。

このブログでは、その様子をお届けしていきたいと思います。

引用：Black Hat公式サイトより

The AI Summit at Black Hatとは

The AI Summit at Black Hat（以降「AIサミット」）は、AIとセキュリティの領域に特化したセッション中心のイベントです。ChatGPTをはじめ近年の生成AIの進化は著しく、多くの分野で業務効率化や自動化を推進する強力なツールとなっています。また、生成AIだけでなく、組織内のシステムにエージェントとして導入し、外部のツールやデータベースと連携しながら自動でタスクを行うAIエージェントの開発や提供も進んでいます。セキュリティ分野においても、生成AIやAIエージェントによる脅威検知やインシデント対応の高度化が進み、その重要性はますます高まっています。

しかし、AIの恩恵を受けているのは防御側だけではありません。攻撃者も同様に生成AIやAIエージェントを活用し始めています。例えば、人間が書いたようなフィッシングメールの大量自動生成や、従来のセキュリティツールでは検出が難しい高度で複雑なマルウェアを作成して攻撃を実行する事例が増えています。こうした状況を踏まえ、今回のAIサミットでは、実際に生成AIやAIエージェントを利用している企業の事例や、その際に直面する課題、攻撃側と防御側の双方におけるAI活用の現状について語られていました。

AIサミットは2016年から毎年開催されており、ロンドン、ニューヨーク、シンガポールなど世界各地で行われています。「組織がAIをどう活用するか」という実践的な視点でのセッションや、展示ブースでの情報収集や専門ベンダーとの情報交換ができることが特徴です。一方、Black Hatのサブイベントとして開催された今回のAIサミットは、「セキュリティの面でAIを活用する上で何を考えていくべきか」という視点で行われ、すでに生成AIやAIエージェントを導入している企業の現場状況や運用体制をもとに今後の課題を紹介していました。

(The AI Summit at Black Hatのイベントセッション中の様子)

現地の様子とセッション内容の一部を紹介

今年のイベントには、弊社から二名が初参加となりました。

↑会場内での撮影 (左が筆者)

AIサミットは、Black Hatと同様マンダレイ・ベイで開催されています。会場近くのホテルに滞在していたため、無料トラムやホテル内の通路を使って移動しました。ラスベガスは非常に気温が高いため、移動時はできるだけ日差しを避けられるルートを選ぶのがおすすめです。また、AIサミットはサブイベントであり、Black Hatのイベントとは別で申し込みとチケット購入が必要です。

今回のAIサミットは、隣接する２つのカンファレンスルームで開催され、快適に過ごせる環境が整っていました。朝に軽食、昼にはランチが提供され、長時間の参加でも疲れにくいよう配慮がされていました。
セッション会場内には、イベント内で登壇するベンダーのブースも併設されていました。これにより、講演で得た知識とブースでの情報収集が同時に行えるようになっていました。
参加者は非常に多く、朝から夕方までどの時間帯も活気にあふれており、終日大盛況の雰囲気でした。

↑講演のタイムテーブル

セッションの内容は、日本のイベントでもよく耳にする「AIの将来性」や「AIの技術的進歩」の話題から一歩踏み込み、実装現場での苦悩や、リアルな検証知見をもとに、今後AIとどのように向き合っていくべきかといった内容が中心でした。

昨今話題のAIエージェントについても紹介されていました。「人間の手を借りずに仕事を進められる」という期待とは裏腹に、誤作動の頻発や偏った行動パターンの繰り返しといった、柔軟性や適応力の不十分さが運用の課題点として強調されていました。

一方で、AIの進化は確実に進んでおり、人間が即座に内容の正誤を判断できないほど高度で専門的に見える回答を提示すると語られていました。そのような状況だからこそ、提示された回答をそのまま信頼するのではなく、人間が最終的に判断する運用設計が必要であると強調されていました。

↑講演中の様子

個人的に印象に残ったセッションは、「Technical Track | Offensive AI: Applied Testing-Showcasing Real Tools, Workflows and Practical Demonstrations」です。

これは、LLMが複数のツールやサービスと連携する際に生じるセキュリティリスクをテーマにしたセッションで、開発者が参照するツールの説明書（README）のルール設定をLLＭが勘違いしてしまうケースが語られていました。具体的なケースとして、READMEに「この場所では今後作業を行わない。代わりに別の場所で作業するように」という記述がある場合、それをLLMが「全く別の場所で作業するように」という命令を受けたと勘違いし、命令とは無関係の場所で作業を行い、機密情報を外部に送ってしまう可能性がある、と紹介されていました。

また、LLMを始めとするAIエージェントは、意思決定やツールの利用、メモリの参照など様々な要素が複雑に絡み合って動作するため、誤作動を起こした際の原因の特定が非常に困難です。そのため、実際に情報漏洩が発生してしまった場合の調査や再発防止のためのログ解析や事象の再現が難しく、十分な対応ができない可能性についても語られていました。

これらを踏まえ、すべてのAIエージェントの命令・記憶・ツール連携・出力を一元的に記録・可視化する監査基盤の必要性が強調されていました。

先日、ChatGPT-4の進化版といえるGPT-5が正式リリースされるなど、AIに関する技術情報は日々更新されています。一方で、AI運用に関する課題を知る機会は限られているため、大変参考になりました。組織内でAIツールや製品を導入できる段階にある今だからこそ、導入前に想定される課題や、導入後の運用体制を見つめ直し、準備を進めていくことが重要だと感じました。

まとめ

AIサミットは、AIが直面する課題や今後の展望を具体的に把握できる貴重な場です。一方で、メインのイベントであるBlack Hat、特に展示会場となっているBusiness Hallでは、これらのAIに関連した課題に対する具体的な対策製品や提供ベンダーの情報が得られる場です。AIサミットでAI運用時の課題を理解し、Black Hatで実際に導入するAI製品を探索するといった過ごし方もできます。

会場内は強力な冷房により寒いぐらいの体感でしたが、防寒対策をすることでゆったりと参加することができました。加えて、ほとんど移動を必要とせずにイベントに参加できたため、終日落ち着いて過ごすことができました。海外イベントというハードルがあるとは思いますが、最新のAI動向や活用方法にご興味をお持ちの方は来年開催されるようであれば、ぜひ参加を検討してみてはいかがでしょうか。

NVCでは最新情報の収集のため、今後もこうしたIT/セキュリティイベントに参加していく予定です。ぜひ次のイベント参加レポートを楽しみにしていただければと思います。

なお今回は「AIサミット」のみではなく「Black Hat」や「DEFCON」、「BSides」に参加しています。

2025年の参加レポートはこちら！

• 【参加レポ】NVCラスベガス出張2025総集編　＜近日公開予定！＞
• 【参加レポ】BSides Las Vegas 2025
  
• 【参加レポ】Black Hat 2025
• 【参加レポ】DEFCON 33