AIデータ品質‧運⽤責任者｜教師データ設計・品質保証・データ資産と品質状態の可視化

仕事内容

▍ミッション 建設⾒積書‧内訳書から作成される教師データと評価データを、学習‧評価に継続利⽤できるデータ資産として管理し、Biz‧CS‧MLの判断を、作業者が再現可能なルールと改善サイクルへ変換することです。 ▍お任せすること ①データ資産と品質状態の可視化 ・教師データ・評価データの⼀覧、⽤途、バージョン、責任者、利⽤可否、残存リスクを整理する ・サンプル監査を設計‧実施し、現在の品質⽔準と指標の限界を説明する ・個別の誤りを類型化し、ラベル、階層、作業者、時期、データソースなどの切り⼝で原因と偏りを分析する ・重複、⽭盾、⽋損、階層制約違反、学習⽤‧評価⽤データ間のリーケージを確認する ②ルールと品質運⽤の設計 ・アノテーションルールを、定義、正例、負例、境界例、判断停⽌条件、エスカレーション先まで含む形に整備する ・ルールの版判断履歴、未解決ケースを⼀元管理する ・サンプリング、監査、⼆重アノテーション、作業者校正、差し戻し、再レビューの仕組みを設計する ・作業者や外部ベンダーへの説明‧教育‧評価を⾏い、理解度と再発状況を確認する ③データ改善とML開発の接続 ・新規データ作成と既存データ修正のバックログを管理し、事業上の優先度とMLの学習計画に接続する ・学習投⼊前に、データ運⽤上のReady∕Not Readyと残存リスクを提⽰する ・MLメンバーとともに、データ変更前後のモデルの失敗パターンを⽐較し、次に改善すべき対象を提案する ・週次のデータ準備状況と、⽉次の品質傾向を関係者へ共有する ④部⾨横断の意思決定⽀援 ・業務上の正解はBiz、顧客‧現場事例はCS、モデル要件と投⼊判断はML、ツール実装はSoftwareEngineerへ、論点と判断先を切り分ける ・データ量、品質、費⽤、納期、想定されるモデル影響、未確定事項を整理し、関係者が判断できる状態を作る ・アノテーションツール上の課題を運⽤要件‧受⼊条件へ変換し、Software Engineerと改善を進める ▍このポジションが持つ責任と、持たない責任 ①本ポジションが責任を持つ領域 他の役割が最終責任を持つ領域 ・品質基準、サンプリング、監査⽅法 ・アノテーションルール、例⽰、判断履歴 ・作業者校正、差し戻し、外部ベンダーの品質 ・作成‧修正バックログの運⽤上の優先順位 ・データの運⽤上のReady∕Not Ready判定 ②他の役割が最終責任を持つ領域 ・業務上の正解：⽤語・顧客要件：Biz ・顧客・現場事例の収集：CS ・学習‧評価要件、データ分割、モデル投⼊判断：ML ・ツールの設計、実装、テスト、リリース：SoftwareEngineer ・最上位の事業優先順位：事業‧AI責任者 本ポジションが、すべての業務上の正解を決めること、モデルを実装すること、アノテーションツールを開 発すること、全件を⾃ら確認‧修正することは想定していません。 ▍⼊社後に期待すること ①⼊社後90⽇を⽬安に ・既存の教師データ‧評価データの⼀覧、⽤途、バージョン、責任者を整理する ・サンプル監査を⾏い、現在の品質⽔準と主なエラー類型を提⽰する ・ラベル・階層ルール、未解決ケース、判断履歴を⼀元化する ・次回学習に向けた修正バックログと優先順位をBiz・MLと合意する ・作業者向けの校正⽤データを作り、⼩規模な運⽤を開始する ②⼊社後180⽇を⽬安に ・データセット、ラベル、階層、作業者別の品質傾向を継続的に説明できる状態を作る ・データ作成から学習‧評価までのリードタイムとボトルネックを可視化する ・ルール変更、作業者教育、差し戻し後の再発状況を測定する ・データ修正前後でモデルの失敗パターンを⽐較し、改善効果を確認する ・外部作業者を活⽤しても、品質状態と残存リスクを説明できる運⽤を確⽴する