三崎優太氏、ChatGPTで“犯罪予告”試した結果アカウントBANに「探究心がくすぐられ…」

実業家の三崎優太氏が19日、自身の公式X（旧ツイッター）を更新。生成AIサービス「ChatGPT」において不適切な入力を試みた結果、アカウント停止処分（BAN）を受けたことを明かした。

三崎氏は、「ChatGPTに相談した内容が警察や公的機関に通報されるという記事を読んで、AIの探究心がくすぐられ、犯罪予告(当然実行はしない空想)を課金済みのGPTにしてみたら、アカBANになった」と報告した。

続けて、「AIに冗談を言う人も多いと思うけど、そういう使い方はしちゃいけないね。送った内容は、いつでも見られるってこと」とつづり、AIの利用方法について注意を促した。

あわせて公開された画像には、「OpenAI - アクセスが無効になりました」との件名が表示され、「最近のアクティビティが以下に関する当社の利用規約および利用ポリシーに違反したため、お客様のアカウントは停止されました」と記載されていた。

また、違反内容として「暴力行為」と明記され、「これは、ご利用のアカウントは今後利用できなくなることを意味します」と案内されていた。一方で、決定に誤りがあると思われる場合には「異議申し立てを開始する」ための案内も表示されている。

この投稿に対し、X上では「高校生がAIに聞いてサイバー犯罪をした事件がありましたね」「GeminiだとGoogleアカウントごとBANされるんじゃないでしょうか」「でもこれ、聞き方変えたらいけると思うからあんまり警察側からしたら効果はなさそう」「警察に通報される前に、規約違反でbanされただけな気がする」など、さまざまな声が寄せられている。