【SRE】AI駆動開発でLLMOps・AIガバナンス基盤を構築｜AI&プライム案件

仕事内容

【具体的な業務内容】 ◎ LLMOps・AIガバナンス基盤の設計と構築 顧客の課題を技術要件に落とし込み、信頼性の高いAI運用基盤を設計します。LLMOps基盤の設計(レートリミット管理、トークン消費量監視、コスト最適化、モデルバージョン管理)、AIガバナンス基盤の設計(プロンプトインジェクション検知、AIエージェント暴走制御、不適切利用検知)、高可用性(HA)構成の設計、Observability基盤の設計、標準技術スタックのアセット化などを担当します。Claude/ChatGPTを活用した設計レビューやCursor/Claude CodeによるIaCコードの初期案生成で、設計品質を高めます。 ◎ インフラ構築・運用自動化実装 設計したアーキテクチャをもとに、実際のインフラ構築と運用自動化を行います。GitHub CopilotやClineでIaCコードや自動化スクリプトを自動生成し、複雑な運用ロジックに集中。Terraformを用いたIaCによる自動化、CI/CDパイプラインの構築、Go/Pythonによる運用自動化ツール開発、Kubernetesオペレーター開発などを担当します。自社アセット(過去の汎用コード)をAIに参照させることで、社内標準に沿った一貫性のある実装を実現します。 ◎ Observability構築とインシデント対応 AI基盤の継続的な品質保証と改善を担います。Observability基盤の構築(Datadog/Sentryでのモニタリング、分散トレーシング、ログ集約・分析)、SLI/SLO設計・運用、インシデント対応、AI特有の監視(LLMレートリミット、トークン消費量、RAG精度劣化検知)などを実践します。 ◎ AIを活用したSRE運用自動化(AIOps) SRE運用プロセス自体もAI/DXで自動化・効率化します。AIによる障害予測・異常検知、AIによる根本原因分析、自動修復スクリプトの生成・実行、トイル削減などを担当します。 ◎ AIソリューションのアーキテクチャ設計・技術選定 開発チームと連携し、SREの観点からアーキテクチャ設計・技術選定に深く関与します。 【開発案件例】 ◎ 製造業:AI部品検索基盤の信頼性向上 部品検索・代替提案システムの信頼性を向上。SLO定義、可観測性基盤構築、障害予兆検知を実現。VectorDB検索の応答時間監視とLLM APIのフォールバック機構を実装しました。 ◎ サービス業:プラン提案システムの運用改善 プラン提案システムの運用改善を実施。カナリアリリースとブルーグリーンデプロイで安全なデプロイ戦略を確立。エラーバジェットに基づくリリース判断を実現しました。