株式会社Citadel AI

生成AIの技術が加速度的に進化し、さらに金融・医療・自動車・社会インフラなど、ミスが許されない事業分野でのAIの導入が進んでいる。その一方で、AIの信頼性にかかわる新たな課題も浮き彫りになって来ている。日本でも2025年10月にAI法が全面施行された。AIはこれまでに無い利便性をもたらすと同時に、「AIをどこまで信頼して良いのか」という課題も人々に投げかけている。

この問いに真っ向から挑んでいるのが、株式会社Citadel AIだ。「24時間信頼できるAIをあなたに」というスローガンを掲げる日本発のグローバルスタートアップ企業で、世界を舞台にサービスを提供している。創業者の一人であり、CEOの小林裕宜氏にAIの信頼性について伺った。

「AIを天まで届く巨大なパチンコ台と仮定しましょう。パチンコ台には沢山の釘が立っていますが、この釘がAIでいうところのパラメータです。この調整によって結果が大きく変化します。パチンコ玉はいわばAIの入力データに相当します。玉を入れると、いくつもの釘に弾かれながら落ちて行きますが、なぜその玉が、思った場所に入ったのか入らなかったのか、理由は説明できないですよね。AIの場合もまさに同様です。ある入力に対して、なぜAIがそういう結果を出したのか、パラメータを見ただけでは容易には分かりません。

従来のシステムの場合は、人間がフローチャートを作って、それに合わせてプログラミングしていたので、出力理由はフローチャートを見れば分かります。一方AIの場合は、AI自身が学習データからパターンを自動学習し、それを大量のパラメータに落とし込みます。人間が目でみて分かるようなフローチャートは存在しません。このため、AIの思考過程を人間が理解することは非常に困難です。実際にGoogleやAmazon、OpenAIといった大企業でも様々な問題に直面しています。」

そう話す小林氏が率いるCitadel AIは、2020年12月に日本で設立されたスタートアップだ。総合商社に勤務していた小林氏がアメリカに駐在していた際、共通の知人を通じて知り合ったのが、共同創業者でありCTOのKenny Song氏だ。当時Kenny氏は、世界最大手のインターネット事業会社のシリコンバレー本社において、AI開発の中枢研究機関のプロダクトマネージャーとして活躍していた。小林氏は以前よりAI領域に興味があったことからKenny氏と意気投合し、Citadel AIの創業に至ったという。なお、社名にある「Citadel」には、城・砦という意味がある。ここには、「人間をAIから守る最後の砦になる」という思いが込められている。

現在同社では、AIシステムを自動検証し、ガードレールするAIガバナンスツール『Citadel Lens』というプロダクトを提供している。

生成AIのアプリケーションは、従来型のAIと比べて、誰でも容易に開発し手軽に導入できるというメリットがある。その一方で、ハルシネーションやバイアスといったリスクを見落とし、情報漏えいやレピュテーションなど企業ブランドを大きく毀損してしまう危険性も秘めている。

『Citadel Lens』では、本番導入に向けた大量の模擬テストを自動で実施することにより、安心してAIを導入することを実現する。さらに運用段階において、独自のFirewall機能を通じてAIシステムを常時自動モニタリングし、異常を検知しアラートする。従来の予測型AIから、最近の生成AIまで、さまざまなAIに汎用的に適用することができることが強みだ。

同社は、国際的な規格開発と認証分野で世界をリードするBSIに正式採用された実績を持つ。BSIはISO等の国際標準を作成しその認証も担っている100年以上の歴史のある企業だ。そのBSIがAIの認証事業への新たな参入に備え、世界中のスタートアップ54社を集めて選考を実施。1年間にわたる技術検証を経て、同社が唯一採択されたのだ。

「当社の技術力は世界でもトップレベルだと自負しています。また、少数精鋭なのでスピード感を持って開発できることも評価された理由の一つだと思います。実際に大手メーカーの方とお話ししている中で、“うちで開発するとしたら3カ月かかるけど、Citadel AIなら1週間でできるね”と言われたほどです。」（小林氏）。

「AIの信頼性」にかかわる巨大市場が、今まさに立ち上がろうとしている。海外ではすでに本格的にAIを事業導入している大企業も数多くあり、信頼できるAIに対するニーズが顕在化している。日本でも生成AIの進展に伴い、金融機関を初めとする大手企業を中心に、AIガバナンスに対する関心が急速に高まっていると小林氏は話す。

「EUのAI法が定めるリスク分類の中に、ハイリスクAIというカテゴリーがあります。例えば医療、自動運転、人事採用等の現場で活用されるAIなど、人間の生命や尊厳、社会安全にかかわるAIです。こうしたハイリスクAIを使った製品やサービスを提供する企業は、第三者評価を受けることが義務付けられ、万が一問題を起こした場合には、巨額の制裁金が課せられることになります。

インターネットに接続するには、ウイルス対策ソフトが必須であるのと同様、AIを利用するにあたっては、信頼性を担保するツールを導入することが、これからの社会・経済にとって、当然のことになるでしょう。」（小林氏）。

Citadel AIには既に世界中から2,000人以上の応募があるという。その理由は、同社が挑んでいる「信頼できるAIの実現」にある。トップクラスのAIエンジニアであればあるほど、この課題に挑みたいと思うのだ。

そんな同社には、現在15名の精鋭メンバーが在籍している。国際色豊かな職場だ。「世界の最先端AI企業での現場で、大規模なAIを開発し、AIの課題とまさに実戦で闘ってきたエンジニアが集まっていることが強み」と小林氏は話す。グローバルな環境の中で経験を積み、自信を持ったエンジニアが集結しているため、お互いを尊重し助け合うカルチャーが根付いている。

「週2回程度は全員で直接顔を合わせるようにしていますが、それ以外はリモートワークも可能です。当社の特徴は、オープンかつフラットな環境です。いつでも質問できますし、ディスカッションも活発に行われています。海外で働いていたメンバーも多いので、それが当たり前なところもあるのです。また、年長者や年次を気にして忖度するということは200%ありません」（小林氏）。

また、同社の魅力について小林氏は次のように語る。
「AIのスタートアップ企業の多くが手掛けているのは、AIを活用したアプリケーションの個別開発です。私達が行っているのは、そうしたAIのシステムを横断的に検証し、ガードレールする汎用的なツール開発であり、その点が大きく異なります。

個別アプリケーション開発の分野でビジネスを伸ばすには、それに応じた多くの人材とコストが必要です。私達のプロダクトは、プラットフォームとなる汎用システムです。スケールメリットの余地が大きい一方、開発には非常に専門的な実戦経験が必要になります。例えるなら、私達は経験豊富なAI向けの専門医師集団といったところでしょうか。こうした実戦経験で鍛えられたエンジニア陣と共に、世界を目指せることは、非常に貴重な経験だと思います。」

日本にいながらにして、グローバル企業で数々の困難を乗り越えてきたであろう、経験豊かなエンジニア集団の一員となり、自分の技術力を試すことができる機会はそう多くはない。そしてその経験は、成功も失敗も含めて、間違いなく今後の人生にプラスとなるだろう。