ChatGPTのセキュリティリスク｜懸念される問題と効果的な対策

GPT-3.5とGPT-4.0

ChatGPTの自然言語処理モデル「GPT」にはバージョンがあり、基本的に 新しいバージョンになるほど性能が高く、質の高い文章を生成できるようになります。

2023年10月時点では主に「GPT-3.5」と「GPT-4.0」の2種類が存在し、それぞれ異なる性能を持ちます。それぞれの違いは以下の通りです。

GPT-3.5よりもGPT-4.0のほうが性能が高く、より質の高い文章を生成します。しかし、GPT-4.0は無料利用できず、月額20ドルのコストがかかります。

機密情報の漏洩

ChatGPTに機密情報を入力することで、その情報が第三者に流出する可能性があります。ChatGPTはユーザーから入力された情報を蓄積・学習しているため、仮に企業の機密情報や個人情報を入力した場合、その情報はデータベースに記録されてしまいます。

データベースを通じて他のユーザーへの回答として利用される可能性もあるため、企業の機密情報を入力する際は特に注意が必要です。完全なプライバシーが保証されていないということを覚えておきましょう。

著作権違反の可能性

ChatGPTによって生成されたテキストが既存の著作物と類似している場合、著作権違反の問題を引き起こす恐れがあります。ChatGPTは著作権違反の可能性を正確に考慮できないため、意図せずに著作権違反の情報を出力するケースがあり、その情報をそのまま使用するとトラブルのリスクが伴います。

例えば、小説やエッセイなどの文章をChatGPTが出力し、そのまま公開・販売を行うと著作権違反や批判・炎上の可能性があるため注意が必要です。

誤情報の拡散

ChatGPTを利用するにあたって、誤情報の拡散には注意しましょう。誤情報をそのまま発信すると、企業のブランド力の失墜や信用低下に繋がる恐れがあります。

ChatGPTで出力される情報は必ず正しいとは限りません。模擬司法試験で受験者の上位10%程度のスコアを叩き出したGPT-4でさえも、間違った情報を出力する場合があります。

例えば、医療や法律などの専門的な情報をChatGPTに依存した場合、命に関わる誤情報を広めるリスクが考えられます。

サイバー攻撃への悪用

ChatGPTは高度な技術を有しており、このツールがサイバー攻撃の一環として悪用される危険性も存在します。攻撃者はChatGPTを利用して、ターゲットとなる組織や個人に対する情報収集や攻撃を行うことが考えられます。

例えば、ChatGPTに「大企業を装ったメールを作成して」と指示を出すと、攻撃に使用できるフィッシングメールを短時間で作成できてしまうのです。このような事例は、今後さらに増加すると予想されています。

【関連記事】サイバー攻撃とは？種類や被害事例、対策方法についてわかりやすく解説

悪質なマルウェアを効率的に作成

ChatGPTはプログラミングコードも生成可能であり、悪質なマルウェアや攻撃的なコードの作成に悪用されるケースがあります。例えば、希望の言語コードをChatGPTに指示するだけで、高速で悪質なプログラムを作成することが可能です。

この問題について、ChatGPTを運営するOpenAIは「マルウェア ランサムウェア、キーロガー、ウイルス、またはある程度の危害を与えることを目的としたその他のソフトウェアを生成しようとするコンテンツ」の作成を禁止しています。

引用：OpenAI’s API now available with no waitlist｜OpenAI

【関連記事】マルウェアの対策方法とは？感染前後の対処法を詳しく紹介！

フィッシング詐欺に使われるメールの作成

フィッシング詐欺とは、信頼性のある組織や個人を装い、情報や資金を騙し取るための手法のことです。ChatGPTの文章生成能力を利用して、フィッシング詐欺に使用するメールを大量に作成する攻撃者もいます。

例えば、「〇〇という企業を装い、Webサイトに誘導するメールを作成して」と指示すると、高品質なフィッシングメールが作成できてしまいます。しかし、現在はOpenAI側の対策が進んでおり、フィッシング詐欺に関するメール作成を断られるケースがあります。

【関連記事】フィッシング詐欺とは？具体的な手口や被害に遭わないための対策

詐欺サイトやフェイクニュース記事の作成

ChatGPTの利用により、詐欺サイトのコンテンツやフェイクニュースの記事が作成されるケースがあります。

ChatGPTに「〇〇の事件や事故を捏造して」と指示すれば、簡単にフェイクニュースのテキストを作成できてしまいます。もちろん出力されたテキストをコピーし、そのまま記事として公開することも可能です。

このような情報操作によって、ユーザーが誤った情報を信じることでさまざまな被害に発展する可能性があります。

ChatGPTの偽アプリへの誘導

ChatGPTの名声を利用し、偽のアプリを制作してそこに誘導する攻撃者もいます。偽のアプリをインストールしてしまうと、悪質なソフトウェアにより、ハッキングや情報漏洩などのリスクが伴います。

また、偽のWebサイトを作成し、マルウェアを含む悪意のあるファイルをダウンロードさせるといった手口も確認されています。このような偽アプリや偽Webサイトには注意が必要です。

チャット履歴の記録・学習をオフにする

ChatGPTの設定でチャット履歴の記録・学習をオフにすることで、外部への情報漏洩を防ぐことができます。この設定をすれば、入力した情報がモデルのトレーニングや改善に使用されないため、他のユーザーに出力されるリスクを防げます。

外部への情報漏洩が不安な方は、この設定を有効化してからChatGPTを利用しましょう。

利用ポリシーを策定して社内に共有する

ChatGPTのセキュリティリスクは日々変化しているため、利用ポリシーを策定し、それをガイドラインとして社内に共有することが大切です。例えば、以下のような内容の共有が推奨されます。

これらの利用ポリシーを策定し、社内に共有すればChatGPT利用時のセキュリティリスクが減少します。

テキスト出力後に人間のチェックを入れる

ChatGPTが出力したテキストには間違いや著作権違反のリスクが存在するため、必ず人間のチェックを入れるようにしましょう。正確性をチェックすれば、誤った情報の公開や法的リスクを低減できます。

例えば、ChatGPTでテキストを出力した後、一度ドキュメントなどに移し、その後人間の手直しを加えます。誤字脱字のチェックだけでなく、情報の精査を行うことで、より正確で質の高いテキストを利用できるでしょう。

セキュリティ対策ソフトを入れて監視する

ChatGPTを悪用したサイバー攻撃を防ぐためには、セキュリティ対策ソフトを入れて監視することが効果的です。セキュリティ対策ソフトを導入する主なメリットは以下の通りです。

セキュリティ対策ソフトによってはサポートも充実しており、専門家にセキュリティリスクを相談することも可能です。セキュリティ対策ソフトの導入により、ChatGPTを安心して使用できるようになるでしょう。