3章知らないと危険！AI実装の罠

INDEX

前の章に戻る次の章に進む

3章知らないと危険！AI実装の罠

この章の目安学習時間：50分

この章で到達できるゴール：

AI生成物を実務で利用する際の著作権に関する注意点を理解できる。
AIが生成したコードに潜むライセンスやセキュリティのリスクを説明できる。
安心してAIを活用するための、具体的なリスク対策を実践できる。

【3-1】そのコード、その画像、使って大丈夫？

目安の学習時間：20分

そのコード大丈夫？ライセンスの罠

GitHub CopilotなどのAIが生成するコードは非常に便利ですが、そのコードはAIが学習したインターネット上の膨大なオープンソースコードに基づいています。ここには注意すべき「ライセンスの罠」が潜んでいます。

オープンソースのソフトウェアには、その利用条件を定めたライセンスが必ず付与されています。ライセンスによっては、「そのソフトウェアを使って作った制作物も、同じライセンスでソースコードを公開しなければならない」という強い制約（例：GPLライセンス）を持つものがあります。

もし、AIがこのような制約の強いライセンスのコードを参考にして生成したコードを、知らずにクライアントの商用サイトに使ってしまうと、意図せずライセンス違反を犯し、最悪の場合、クライアントのサイト全体のソースコードを公開する義務が生じてしまう可能性があります。これを「ライセンス汚染」と呼び、プロとして絶対に避けなければならないリスクです。

注意：ライセンス汚染のリスク

AIが生成したコードの元になったコードのライセンスによっては、あなたの制作物全体に影響が及ぶ可能性があります。
特に、クライアントワーク（商用利用）では、ライセンス違反が大きなトラブルに発展する可能性があります。
GitHub Copilotには、公開されているコードと一致する提案をブロックする設定があります。必ず有効にしておきましょう。

「Start using Copilot Free」をクリック

クリック後https://github.com/settings/copilot/featuresにアクセス

下にスクロールし「Suggestions matching public code」をBlockedに変更。

商用利用で失敗しないためのルール

AIツールをクライアントワーク、つまり商用で利用する前には、必ずそのツールの利用規約（Terms of Service）を確認する習慣をつけましょう。

多くのAIサービスでは、生成物の所有権や商用利用の可否について、規約で細かく定められています。

解答例

ChatGPT:
生成したテキストの所有権はユーザーにあるとされていますが、入力した情報がAIの学習に利用される可能性があるため、機密情報の入力は避けるべきです（詳しくは後述）。
GitHub Copilot:
生成したコードの利用はユーザーの責任となります。前述のライセンス汚染のリスクを理解した上で利用する必要があります。
Midjourney:
有料プランであれば、生成した画像の所有権はユーザーにあり、商用利用も可能です（2025年7月時点）。ただし、他者の著作物を模倣するようなプロンプトは避けるべきです。

これらの規約は変更される可能性があるため、定期的に公式サイトで最新の情報を確認することが重要です。クライアントに納品する制作物にAI生成物を含める場合は、これらのルールを遵守していることを自分で説明できる状態にしておきましょう。

考えてみよう！

GitHub Copilotが生成した便利なJavaScriptのコード。
これをクライアントのECサイトに組み込む前に、あなたが必ず確認すべきことは何でしょうか？

ライセンスチェック:
まず、Copilotの設定で、公開されているコードと一致する提案をブロックする機能が有効になっているか確認する。念のため、生成されたコードの断片をWeb検索にかけ、特定のGPLなどの強いライセンスを持つオープンソースコードと酷似していないかチェックする。
セキュリティレビュー:
コードに、個人情報や決済情報を扱うような処理が含まれていないか、含まれている場合は、情報漏洩に繋がるような脆弱性（クロスサイトスクリプティングなど）がないか、自分の目で一行ずつ処理内容をレビューする。
動作テスト:
すべての機能が意図通りに動くか、他のコードと干渉してバグを発生させないか、様々な状況で徹底的にテストする。

【3-2】セキュリティと情報漏洩のリスク

AIは、インターネット上にある膨大なコードを学習データとしています。
その中には、古い情報や、セキュリティ上の弱点（脆弱性）を含んだコードも当然含まれています。

そのため、AIが生成したコードにも、意図せず脆弱性が紛れ込んでしまう可能性があります。
例えば、ユーザーからの入力を適切にチェックしないままデータベースに保存するようなコードが生成され、それが原因でサイバー攻撃（SQLインジェクションなど）の標的になってしまう、といったケースが考えられます。

これを防ぐためには、「AIが生成したコードは、あくまで下書きや参考程度と捉え、鵜呑みにしない」という心構えが極めて重要です。
特に、ログイン機能やお問い合わせフォーム、決済機能など、セキュリティが重要となる部分では、必ず自分の目で処理内容を理解し、安全性を検証する癖をつけましょう。

それ、AIに渡して平気？機密情報の取扱い

AIを活用する上で、最も注意しなければならないのが「情報漏洩」のリスクです。

あなたがChatGPTなどに入力した情報は、デフォルトでは、そのAIサービスを改善するための学習データとして利用される可能性があります。

警告：絶対に機密情報を入力しないこと

以下の情報は、決してAIチャットに入力してはいけません。

クライアントから預かった情報（事業計画、新製品情報など）
個人情報（氏名、住所、電話番号、メールアドレス、顧客リストなど）
パスワードやAPIキーなどの認証情報

これらの情報が学習データとして使われると、他のユーザーへの回答として、あなたの入力した情報の一部が出力されてしまう可能性がゼロではありません。これは取り返しのつかない重大なセキュリティインシデントに繋がります。

多くのAIサービスには、入力した情報を学習データとして利用させないための「オプトアウト設定」が用意されています。プロとして活動するなら、必ずこの設定を行い、情報漏洩のリスクを最小限に抑えましょう。

【3-3】3章 -章末課題- [トラブル回避シミュレーション]

目安の学習時間：10分

問題

以下の3つのシナリオには、それぞれAI活用におけるリスクが潜んでいます。
どのようなリスクがあり、あなたがWeb制作者ならどう対処するか、それぞれ簡潔に記述してください。

クライアントから預かった顧客リスト（氏名、メールアドレスを含む）をChatGPTに渡し、「このリストを年代別に整理して」と指示した。
GitHub Copilotが提案してくれたJavaScriptのコードを、内容をよく確認せずにそのままWebサイトに実装した。
画像生成AIに「有名アニメのキャラクター風のイラスト」と指示して画像を生成し、クライアントのサイトの挿絵として使用した。

解答

解答例

個人情報漏洩のリスク:
入力した顧客リストがAIの学習データとして利用され、外部に流出する可能性がある。
- 対処法:
  顧客リストのような機密情報は決してAIに入力しない。Excelなどのローカル環境で手動で整理するか、どうしてもAIを使いたい場合は、氏名やアドレスを完全に削除・ダミーデータに置き換えるなど、個人を特定できない形に匿名化してから相談する。
セキュリティ脆弱性やバグのリスク:
コードに脆弱性が含まれていてサイバー攻撃の原因になったり、意図しないバグでサイトの表示が崩れたりする可能性がある。また、ライセンス汚染のリスクも考えられる。
- 対処法:
  生成されたコードは必ず自分で一行ずつ読み、処理内容を完全に理解し、安全性を確認してから実装する。また、様々な状況でテストを行い、意図通りに動作することを検証する。
著作権侵害のリスク:
生成されたイラストが、元になった有名アニメキャラクターの著作権や商標権を侵害する可能性がある。
- 対処法:
  「〜〜風」のように、特定の作品やキャラクターを直接的に模倣させる指示は避ける。「アニメスタイル」「水彩画タッチ」のような、より一般的で抽象的なスタイルで指示する。生成されたものが既存の作品に酷似していないか、必ず自分の目で確認する。

この章のまとめ

これで「3章：知らないと危険！AI実装の罠」の解説を終わります。

AIの強力なパワーを享受するためには、その裏側にあるリスクを正しく理解し、管理する能力が不可欠です。
この章で学んだ知識は、あなたをトラブルから守り、クライアントからの信頼を得るための「盾」となります。

次の最終章では、これまでの学びを総括し、AIを真の味方につけてプロフェッショナルへの第一歩を踏み出します。

前の章に戻る次の章に進む