ChatGPTに深刻な欠陥が発見されたが、完全な解決には至らず
ChatGPTのセキュリティ上の問題
研究者ヨハン・レーベルガーは、ChatGPTにおいて会話の詳細が外部URLに漏洩する可能性のある深刻な欠陥を発見しました。レーベルガーがOpenAIにこの問題を報告しようとした際、返答がなかったため、彼はこの欠陥の詳細を公にすることを余儀なくされました。その後、OpenAIはChatGPTの安全性チェックをリリースし、この欠陥を緩和しましたが、完全には解決していません。
欠陥の内容と対策
問題の欠陥は、悪意のあるChatGPT駆動のチャットボットが、チャットの内容やメタデータ、技術データなどの機密データを外部に流出させる可能性があることです。攻撃者が提供したプロンプトを被害者が送信することにより、画像マークダウンのレンダリングとプロンプトの注入を使用してデータを流出させる方法があります。レーベルガーは2023年4月に初めてこの欠陥をOpenAIに報告し、11月にはさらに詳細な情報を提供しましたが、OpenAIからの返答はありませんでした。
対応の不十分さ
ChatGPTは現在、上記の二次的な方法を防ぐためのチェックを実施していますが、レーベルガーによると、任意のドメインがChatGPTによって時々レンダリングされることがあり、成功率は一貫していません。これらのチェックはデスクトップ版のChatGPTには実装されていますが、iOSモバイルアプリでは依然としてこの欠陥が存在します。
まとめとコメント
ChatGPTに発見されたこのセキュリティ上の問題は、AI技術の安全性と信頼性に関する重要な課題を提起しています。OpenAIはこの問題に対処するための措置を講じていますが、完全な解決には至っていないため、引き続き注意が必要です。このような問題は、AI技術の発展に伴い、適切なセキュリティ対策の重要性を強調しています。
コメント