上級者向け精度・安全対策

AIに出してほしくない内容や操作を防ぎたい

ガードレール・安全対策

まずはここだけ

ガードレールは、AIが越えてはいけない線を決めて守る仕組みです。

使う場面：社外公開AIや、データ変更を行うAIを運用する時

具体的な利用例

個人情報を含む回答を止め、削除操作は人の承認を必須にする

フィルターだけに頼らず、権限・承認・記録を組み合わせます。

AIの結果を確認せず、そのまま業務へ使わないことも大切です。重要な数値や判断は人が確認してください。

仕組みと使いどころを詳しく見るできること・技術名・利用する場面を確認

入力・出力・ツール操作を確認し、危険な内容や許可外の処理を止めます。

ガードレール・安全対策を使います。むずかしい名前でも、まずは「この目的に使う仕組み」と覚えれば大丈夫です。

社外公開AIや、データ変更を行うAIを運用する時

守るルールと危険な操作を決める。入力と出力を検査する。重要操作に承認を入れる。ログを見てルールを更新する。この流れをサービスやプログラムが自動で進めます。

試すためのツールと手順を見るサービスの例・準備から確認までの順番

Amazon Bedrock Guardrails（入力・出力の安全対策）クラウドサービス
AIへの入力や回答を検査し、有害な内容や個人情報などを検出・制限する設定を作れます。
AWS上のサービスです。対象機能の料金・対応条件を確認し、重要操作の承認や権限管理も組み合わせます。

リンク先は公式ページ・公式の使い方です。クラウド機能を利用する場合は入力内容の送信先、料金、組織の利用ルールを確認してください。

利用のポイント

最初は小さなデータで試し、期待する結果と比べてから対象を広げると失敗を減らせます。