ChatGPTを使う前の5項目リスク確認｜誤情報・個人情報・権限・重要判断

ChatGPTのリスクは「使うか、使わないか」だけでは管理できません。何を入力し、どの出力を使い、何へ接続し、誰が判断し、どこへ公開するかで変わります。利用前に五つを分けて確認します。

1. 出力：正しそうな文章を証拠にしない

OpenAIは、ChatGPTが誤った事実、存在しない引用・研究・出典を生成する場合があると説明しています。正確性に関する公式説明に沿い、次を行います。

1. 料金、日付、仕様、法律、医療、安全情報を主要主張として抜き出す
2. 提供元・公的機関の一次資料を自分で開く
3. 資料の更新日、対象地域、対象プラン、例外を確認する
4. 確認できない主張は「未確認」として使用しない

文章が自然であることと、事実が正しいことは別です。

2. 入力：送信する権限と個人データを確認する

個人情報保護委員会の生成AIサービスに関する注意喚起は、個人情報取扱事業者に対し、利用目的の範囲、サービス提供者による機械学習利用等を確認するよう求めています。

入力前に、氏名、連絡先、顧客番号、契約書、医療情報、認証情報を探します。削除・仮名化できない場合は入力を止め、組織の規程と契約を確認します。Data Controlsの設定は確認材料ですが、第三者データを送信する権限を新しく与えるものではありません。

3. 権限：接続アプリと実行操作を最小化する

ファイル、メール、カレンダー、ブラウザーなどへ接続する場合、回答だけでなく操作が発生します。

• 必要なフォルダー・期間・アカウントだけを許可する
• 送信、削除、購入、公開、権限変更は実行前に人が確認する
• 目的と無関係な接続を解除する
• 操作ログと変更対象を残す

「AIが確認した」ことを承認者の判断と置き換えません。

4. 重要判断：人の関与なしに自動化しない

OpenAIのUsage PoliciesとChatGPT agent向け案内は、信用、雇用、保険、教育、重要インフラ等のセンシティブな領域で、人の関与なしに決定を自動化することを制限しています。

医療症状、法的権利、税務、投資、安全上の緊急事態でも、ChatGPTの回答だけで行動を確定しません。該当する専門機関や公式窓口へ相談し、緊急時は地域の緊急連絡手段を使います。

5. 公開：最終責任と再確認方法を決める

生成文を記事、メール、資料、コードとして公開する前に、次を確認します。

• 引用先が実在し、主張を実際に支えているか
• 著作権、個人情報、秘密保持、社内規程に反しないか
• 数字、固有名詞、リンク、コードを実行または照合したか
• AIを使った工程と人が確認した工程を誤認なく説明できるか
• 誤りを発見したときの訂正先があるか

利用前の記録表

結論

安全対策は「個人情報を入れない」の一文だけでは足りません。出力、入力、権限、重要判断、公開の五欄を利用前に埋め、確認不能な主張と承認されていない操作を止めます。この手順は、機能や画面が変わっても再利用できます。