確かな実績とスキルを元にAIアプリ開発を行います

実現したいユースケースからAIへの入力、AIからの出力、評価方法、処理フロー、保存方法などを確認します。

OpenAIやAnthropicなどのAPIを直接利用する構成、Amazon Bedrockなどのクラウド基盤を利用する構成、ローカル/プライベートLLMを利用する構成を、処理パフォーマンス、コスト、運用方法、データ機密性、セキュリティリスクなどを比較します。

「学習に利用されない」という説明だけで判断せず、契約、プラン、モデル、API、設定、例外条件などを確認します。

ユーザーの入力はもちろん、RAGで取得したデータ、Webページ、メールなどにも不正な指示（プロンプト）が含まれる可能性があります。

悪意あるプロンプトからデータを守るため、AIが利用できるデータ、ツール、MCPサーバーなどをAllowリストで制限します。

プロンプトの制御だけに依存せず、権限管理、入出力検証、人間の承認（Human In The Loop）を組み合わせます。

AIエージェントの権限を、読み取り、編集、実行などに分けて業務に必要な操作だけを許可します。

外部送信、公開、削除、支払、契約、権限変更、本番反映など、影響の大きい操作には人間の承認を必要とします。

ツールの呼び出し回数、処理時間、利用金額などを制限し、異常時の緊急停止、取消、ロールバックが可能な体制を準備します。

AI駆動開発の大きな課題の一つとして、AIが大量に生成したコードに対して人間の理解が追いつかない「理解負債」の問題があります。

弊社では適切な範囲（高リスク領域と判断する認証、個人情報関連、決済、データ削除などに関わる実装）においてAIが生成したコードに対して、人間がコードレビュー、テストを行います。

その他、AIによるコードレビューについてもさまざまなノウハウをレビューフローに落とし込み実践しています。実装の意図、影響範囲、失敗時の戻し方を説明できることを、完了条件の一つにします。

OWASP GenAI LLM Top 10を評価基準とし、Promptfooを主軸に、garakによるモデル固有の脆弱性探索、PyRITによる複数ターン攻撃の検証を組み合わせます。直接および間接プロンプトインジェクション、RAGからの情報漏えい、権限のないツール実行、機密情報や隠しコンテキストの露出などを、実際の業務シナリオに沿って確認します。重要なケースは複数回実行し、モデル、プロンプト、RAGデータ、MCP、権限、外部サービスの変更時には回帰テストとして再実行します。