Anthropicは、利用ポリシーにもとづいて有害な内容を見つける検知モデルや、危険と判断した場合に応答を止める安全フィルターなどを導入しています。ただし公式ヘルプも「これらは完全ではなく、誤判定もありうる」と認めています。安全に使うには、機密情報を入れすぎない、エージェント機能に任せる範囲を絞るといった利用者側の工夫も大切です。
Anthropic側の安全対策（公式ヘルプより）
利用者が気をつけること
- パスワード、カード番号、健康記録などの機密情報はできるだけ入力しない（会社の機密や個人情報を入力しても大丈夫？）
- 学習への利用を望まないなら設定でオフにする（会話をAIの学習に使わせない設定は？）
- Coworkやブラウザ操作では、触らせるフォルダやサイトを絞る（Coworkを安全に使うには？気をつけること、Claude in Chromeを安全に使うには？）
- Webページやメールに隠された指示（プロンプトインジェクション）に注意（プロンプトインジェクションとは？どう防ぐ？）
Claudeの回答は間違えることがあります。医療・法律・お金などの重要な判断は、専門家に確認してください。
出典・参考：Claudeヘルプセンター「Our Approach to User Safety」、Claudeヘルプセンター「I would like to input sensitive data into my chats with Claude. Who can view my conversations?」、Claudeヘルプセンター「Use Claude Cowork safely」（2026年11月時点で確認）