バックナンバーはこちら
要約
- 第4章は、ネットを安全に使う力から、個人情報・権利・AI生成物の責任までをつなげて理解する章です。
- 生成AIを使う前後には、事実確認、権利確認、個人情報の扱いを必ず見る必要があります。
- 最後はAI社会原則、AIガバナンス、AI新法へ進み、社会や事業でAIを安全に活用する流れを押さえます。
解説動画
※ 近日(5/15中)公開
第4章の全体像
生成AIパスポート第4章は、技術そのものよりも「どう安全に使うか」を問う章です。
インターネットを正しく使う力、セキュリティとプライバシーのリスク、個人情報保護、制作物に関わる権利、AI生成物の確認と責任、AI社会原則、AIガバナンス、AI新法がつながって出てきます。
一つひとつを別々の暗記項目として見ると重く感じますが、流れで見ると理解しやすくなります。
- ネットを正しく使う力
- リスクを知る力
- 個人情報を守る力
- 権利を尊重する力
- AI生成物を確認する力
- 社会原則とガバナンスで運用する力
- 法制度とガイドラインを理解する力
この章の中心には、AI生成物に関する確認と責任があります。生成AIで文章、画像、音楽、動画、コードなどを作れるようになったからこそ、内容の正しさ、既存の権利との関係、誰に権利があるのかを人間が確認する必要があります。
インターネットリテラシー
インターネットリテラシーとは、インターネットを正しく理解し、安全に活用するための力です。
単に検索できる、メールを送れる、SNSを使えるというだけでは不十分です。試験対策では、次の4つで整理すると覚えやすくなります。
- テクノロジーの理解
- 情報リテラシー
- セキュリティとプライバシー
- デジタル市民権
テクノロジーの理解では、インターネットの仕組み、通信やネットワークの基礎、デバイスやサービスの役割、技術の進化と社会への影響を見ます。
情報リテラシーでは、情報の検索、収集、信頼性の評価、整理、比較、判断、出典の確認、引用の理解が重要です。これはAI生成物の真偽確認にも直結します。
セキュリティとプライバシーでは、パスワード管理、認証、個人情報保護、フィッシング詐欺の回避、安全な設定や利用習慣を押さえます。
デジタル市民権では、他者への尊重、マナー、責任ある発信、著作権や知的財産の理解、社会課題への関心を扱います。ネット上でも社会の一員として行動するという考え方です。
セキュリティとプライバシーのリスク
セキュリティとプライバシーのリスクでは、ネット利用時に起こりやすい危険を具体例で押さえます。
代表的なものがフィッシング詐欺です。偽のメールやWebサイトで、ID、パスワード、クレジットカード情報などを入力させる攻撃です。
フィッシングには関連する手口があります。
- スミッシング：SMSで偽サイトへ誘導
- ヴィッシング：音声通話による誘導
- スピアフィッシング：特定の相手を狙う攻撃
悪意のあるQRコードにも注意が必要です。見た目は普通のQRコードでも、読み取った先が危険なサイトの可能性があります。
Wi-Fiに潜む罠も重要です。安全性の低いネットワークを使うと、通信内容やログイン情報を狙われる可能性があります。
ファイル共有やアップロードサービスにもリスクがあります。不審なサービスにファイルを出すと、情報漏えいにつながることがあります。
端末やデータへの攻撃では、マルウェアとランサムウェアが重要です。マルウェアは悪意のあるソフトウェアです。ランサムウェアはデータを使えない状態にして、金銭を要求する攻撃です。
さらに、人の心理を悪用するソーシャルエンジニアリング攻撃も押さえます。
- ベイト攻撃：興味を引く餌による誘導
- ブラックメール：脅しによる操作
- プレテキスト：口実を作った接近
生成AI時代には、偽メール、偽画像、偽音声、なりすましの説得力が高まる可能性もあります。だからこそ、セキュリティとプライバシーは生成AI活用の前提になります。
個人情報保護の観点
個人情報保護の観点では、名前や住所だけでなく、個人を識別できる番号や生体情報、特に慎重な扱いが必要な情報まで見ます。
個人情報保護法では、個人情報の適正な取り扱いが重要です。個人情報保護委員会は、個人情報保護法のガイドラインや生成AIサービス利用時の注意喚起も公表しています。生成AIサービスの利用では、個人データや個人情報を入力する前の確認が大切です。(個人情報保護委員会)
試験対策では、次の用語をセットで押さえます。
- 個人識別符号
- 要配慮個人情報
- 匿名加工情報
- マスキング
- 生成AI活用における個人情報の取り扱い
個人識別符号は、特定の個人を識別できる情報です。代表例として、マイナンバー、パスポート番号、運転免許証番号、基礎年金番号、顔認証データ、指紋データなどがあります。
要配慮個人情報は、特に配慮が必要な情報です。人種、信条、社会的身分、病歴、健康状態、犯罪歴などが代表例です。
匿名加工情報は、特定の個人を識別できないように加工した情報です。復元されないようにする必要があります。
マスキングは、表示や入力の一部を隠す処理です。氏名、住所、電話番号などを伏字や置換で見えにくくし、情報漏えいを防ぐ考え方です。
生成AIを使う場合は、入力前に個人情報が含まれていないかを確認し、必要に応じてマスキングや匿名化を行うことが重要です。
制作物に関わる権利
制作物に関わる権利では、AI生成物を使う前に、既存の権利を侵害していないかを確認します。
まず押さえたいのが知的財産権です。
- 著作権：文章、画像、音楽などの作品
- 特許権：発明
- 商標権：ブランド
- 意匠権：デザイン
AIと著作権の関係については、文化庁が「AIと著作権に関する考え方について」や関連資料を公表しています。生成AIと著作権の関係は、判例や実務の蓄積、技術の進展に応じて引き続き検討される分野です。(文化庁)
人物に関わる権利としては、肖像権とパブリシティ権があります。人物の写真、姿、名前、有名人の顧客を引きつける力などを扱う場面で問題になります。
また、不正競争防止法も関連します。営業秘密や限定提供データの保護は、事業活動とAI活用を考えるうえで重要です。経済産業省は限定提供データに関する指針も公表しています。(経済産業省)
名誉毀損にも注意が必要です。AIが出力した文章や画像であっても、人の社会的評価を傷つける内容を公開すれば問題になる可能性があります。
生成AIが作ったから安全、という考え方は危険です。AI生成物を使う前に、既存作品、人物、ブランド、名誉、契約、利用規約との関係を確認する必要があります。
AI生成物に関する確認・責任
AI生成物とは、AIが生成した文章、画像、音楽、動画、コードなどの成果物です。
AI生成物を利用する前には、大きく3つの確認が必要です。
- 内容が正しいか
- 既存作品や権利と衝突しないか
- 誰に権利があるか
まず、内容が正しいかを確認します。情報の正確性、根拠や出典、最新性、文脈との整合を見ます。AIの出力はもっともらしく見えても、誤情報を含むことがあります。
次に、既存作品や権利との衝突を確認します。著作権、肖像権、商標権、名誉毀損などの観点から、公開や商用利用に問題がないかを見ます。
さらに、AI生成物の著作権の所在を確認します。人間の創作的関与、利用規約、契約、権利帰属、利用範囲を見て判断します。
最後に、利用者・生成者の責任理解が必要です。法的責任、倫理的配慮、透明性、説明責任、適切な利用と管理を意識します。
AI生成物は「作って終わり」ではありません。使う前に確認するところまでが、生成AI活用の基本です。
AIを取り巻く理念と原則・ガイドライン
ここからは、個人の注意から社会全体の考え方へ広がります。
AI社会の基本理念では、人間の尊厳、多様な幸せの追求、持続可能な社会を押さえます。内閣府の「人間中心のAI社会原則」では、AIを道具として使いこなし、人間の尊厳が尊重される社会を構築する考え方が示されています。(内閣府ホームページ)
試験対策では、AI社会原則を次の流れで整理すると理解しやすくなります。
- 人間中心
- 安全性
- 公平性
- プライバシー保護
- セキュリティ確保
- 透明性
- アカウンタビリティ
- 教育・リテラシー
- 公正競争確保
- イノベーション
人間中心は、AIのために人間が動くのではなく、人間の幸福や尊厳のためにAIを使うという考え方です。
安全性は、生命、身体、財産、環境などへの危害を抑える考え方です。
公平性は、不当な差別や偏りを避ける考え方です。AIの学習データや判断過程には偏りが含まれる可能性があるため、結果を確認する姿勢が必要です。
プライバシー保護とセキュリティ確保は、個人情報やシステムを守るための原則です。
透明性とアカウンタビリティは、AIの仕組みや判断の説明、責任の所在に関わります。AI生成物の確認や責任理解ともつながります。
教育・リテラシー、公正競争確保、イノベーションは、AIを社会に広く活用していくための基盤です。
AIガバナンスと事業者の役割
AIガバナンスとは、AIを安全かつ信頼できる形で活用するための管理の仕組みです。
理念や原則を掲げるだけでは、実務では機能しません。組織として、リスクを見て、目標を立て、継続的に管理する必要があります。
AIガバナンスの構築は、次の3つで整理できます。
- 環境・リスク分析
- AIガバナンス・ゴール
- AIマネジメントシステム
環境・リスク分析では、社会、技術、法規制の変化、利害関係者の期待や懸念、AI利用に伴うリスクを把握します。
AIガバナンス・ゴールでは、安全性、信頼性、公平性、包摂性、透明性、説明責任、法令遵守、社会価値の創出を目標として整理します。
AIマネジメントシステムでは、ポリシーやルールの整備、運用、監視、評価、インシデント対応、改善、記録、文書化、見直しを継続します。
AI事業者ガイドラインは、AI開発者、AI提供者、AI利用者などの事業者がAIのリスクを認識し、ライフサイクル全体で必要な対策を行うための指針として位置づけられています。2025年には第1.1版も公表されています。(経済産業省)
AIの事業活動を担う主体は、主に3つです。
- AI開発者：AIを作る主体
- AI提供者：AIを提供する主体
- AI利用者：業務でAIを使う主体
AI開発者は、安全性や透明性を設計し、倫理や原則を組み込みます。
AI提供者は、信頼できるAIを提供し、利用者への説明やサポートを行います。
AI利用者は、AIを適切に利用し、出力内容を確認し、責任ある活用を行います。
AI活用は、一つの主体だけで完結しません。開発、提供、利用のそれぞれが役割を持ち、協働してリスクを管理することが大切です。
AI新法
AI新法は、「人工知能関連技術の研究開発及び活用の推進に関する法律」を指します。内閣府の公式ページでは、AIのイノベーションを促進しつつリスクに対応するため、令和7年6月4日にAI法が公布・一部施行され、令和7年9月1日に全面施行されたことが示されています。(内閣府ホームページ)
試験対策では、細かな条文を追うよりも、次の5つで整理すると見通しがよくなります。
- AI新法の必要性
- AI新法の基本構造
- AI新法の内容
- 注意すべき具体的なリスク
- AI事業者ガイドラインとの関連
AI新法の必要性では、AIが社会に広がる中で、研究開発と活用を推進しながら、リスクにも対応する制度が必要になった背景を押さえます。
AI新法の基本構造では、法律の目的、基本原則、対象範囲、関係主体、規律の考え方を見ます。
AI新法の内容では、事業者の責務、評価、認証、報告、監督、執行などの制度上の項目を整理します。
注意すべき具体的なリスクでは、差別、バイアス、プライバシー侵害、安全性、偽情報、悪用などを見ます。
AI事業者ガイドラインとの関連では、法律とガイドラインの役割分担、整合性、補完関係を押さえます。
AI新法は、AI社会原則やAIガバナンスとつなげて理解することが重要です。理念、実務、制度をまとめて見ることで、第4章全体が一つの流れになります。
試験対策の復元チェック
第4章は範囲が広いため、単語だけを暗記しようとすると混乱しやすくなります。
そこで、原因、セット、結果で戻す方法が有効です。
たとえば、AI生成物で考えると次のようになります。
- 原因：生成AIで文章、画像、音楽、動画、コードなどの作成が容易化
- セット：事実確認、権利確認、責任理解
- 結果：安全な生成AI活用
AIガバナンスで考えると、次のようになります。
- 原因：社会や事業でAIを安全に活用する必要性
- セット：環境・リスク分析、AIガバナンス・ゴール、AIマネジメントシステム
- 結果：開発者、提供者、利用者による責任ある運用
第4章は、点ではなく流れで覚える章です。ネット利用から始まり、リスク、個人情報、権利、生成物、社会原則、ガバナンス、AI新法へ進みます。
まとめ
第4章は、インターネットリテラシーを土台に、セキュリティとプライバシー、個人情報保護、制作物の権利、AI生成物の確認と責任へ進みます。
その先で、人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティなどのAI社会原則を理解します。
最後に、AIガバナンスとAI新法を通じて、社会や事業でAIを安全に運用する仕組みに接続します。
第4章の重要ポイントは、生成AIを「使えるか」だけではなく、「安全に使えるか」「責任を持って使えるか」です。
AI生成物を利用する前には、内容の正しさ、既存の権利との関係、権利の所在、個人情報の扱いを確認します。
AI社会原則やAI新法は難しく見えますが、個人の注意から社会の仕組みへ進む流れで見ると理解しやすくなります。
- ネット利用、個人情報、権利、生成物確認の連続理解
- 人間中心、安全性、公平性、透明性を軸にしたAI社会原則
- AIガバナンスとAI新法による実務運用への接続
FAQ
生成AIパスポート第4章では何を学ぶのか
第4章では、インターネットリテラシー、セキュリティとプライバシー、個人情報保護、制作物の権利、AI生成物の確認と責任、AI社会原則、AIガバナンス、AI新法を学びます。生成AIを安全に活用するための知識を、個人利用から社会や事業での運用まで広げて理解します。
インターネットリテラシーとは何か
インターネットを正しく理解し、安全に活用する力です。技術の仕組みを知ること、情報の信頼性を判断すること、セキュリティとプライバシーを守ること、社会の一員として責任ある行動を取ることが含まれます。
セキュリティとプライバシーのリスクには何があるのか
フィッシング詐欺、スミッシング、ヴィッシング、悪意のあるQRコード、危険なWi-Fi、マルウェア、ランサムウェア、ソーシャルエンジニアリング攻撃などがあります。生成AI時代には、偽情報やなりすましの精度が高まる可能性にも注意が必要です。
生成AIに個人情報を入力してもよいのか
個人情報を入力する前には、利用目的、サービスの規約、公開範囲、保存や学習利用の扱いを確認する必要があります。必要に応じて、マスキングや匿名化を行います。特に個人識別符号や要配慮個人情報は慎重に扱います。
AI生成物を使う前に確認することは何か
内容が正しいか、根拠や出典があるか、最新情報か、既存作品や権利を侵害していないか、誰に権利があるかを確認します。著作権、肖像権、商標権、名誉毀損、利用規約なども確認対象です。
AI社会原則とは何か
AIを社会で適切に活用するための基本的な考え方です。人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティ、教育・リテラシー、公正競争確保、イノベーションなどが重要です。
AIガバナンスとは何か
AIを安全で信頼できる形で活用するための管理の仕組みです。環境・リスク分析、AIガバナンス・ゴール、AIマネジメントシステムを通じて、組織としてAIのリスクを管理し、継続的に改善します。
AI新法とは何か
AI新法は、「人工知能関連技術の研究開発及び活用の推進に関する法律」を指します。AIの研究開発と活用を推進しながら、リスクへの対応や国の基本的な施策、事業者の理解すべき事項を整理する制度として押さえます。
参考文献
- 内閣府「人工知能関連技術の研究開発及び活用の推進に関する法律（AI法）」
https://www8.cao.go.jp/cstp/ai/ai_act/ai_act.html
(内閣府ホームページ) - 経済産業省「AI事業者ガイドライン」
https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20240419_report.html
(経済産業省) - 経済産業省「AI事業者ガイドライン（第1.0版）を取りまとめました」
https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html
(経済産業省) - 内閣府「人間中心のAI社会原則」
https://www8.cao.go.jp/cstp/ai/aigensoku.pdf
(内閣府ホームページ) - 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」
https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/
(個人情報保護委員会) - 個人情報保護委員会「個人情報の保護に関する法律についてのガイドライン（通則編）」
https://www.ppc.go.jp/personalinfo/legal/guidelines_tsusoku/
(個人情報保護委員会) - 文化庁「AIと著作権について」
https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html
(文化庁) - 文化庁「AIと著作権に関する考え方について」
https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/pdf/94037901_01.pdf
(文化庁) - 経済産業省「限定提供データに関する指針」
https://www.meti.go.jp/policy/economy/chizai/chiteki/guideline/h31pd.pdf
(経済産業省)
生成AIパスポート対策
- 『公式テキスト第4版対応版 生成AIパスポート テキスト＆問題集』
- 試験対策の中心に置く本
情報リテラシー
- 『情報リテラシー（第4版）』
- インターネットリテラシーの基礎固め向き
- 情報の検索、評価、整理、セキュリティ、メディアリテラシーの補強に合う
セキュリティ
- 『情報セキュリティ読本 七訂版』
- フィッシング、ランサムウェア、偽情報、サポート詐欺などの基礎整理に向く
- 初学者向けの補助資料として使いやすい
- 『サイバーセキュリティと個人情報保護』
- セキュリティと個人情報保護を実務寄りに学べる
- ISMS、PMS、ランサムウェア、標的型攻撃などの理解に役立つ
個人情報保護・知財・肖像権
- 『生成AIと知財・個人情報Q&A』
- 生成AI利用時の個人情報、知的財産権、肖像権、利用規約をQ&A形式で確認できる
AI生成物と著作権
- 『AIの作品は誰のもの？ 弁理士と考えるAI×著作権』
- AI生成物の著作権を初学者向けに整理したい場合に合う
- 「AIが作ったものを使ってよいのか」を考える補助になる
- 『生成AIと著作権の論点』
- 生成AIと著作権をより深く扱いたい場合に向く
- AI生成物、学習データ、権利侵害の考え方を補強できる
- 『AIと著作権』
- AIと著作権の理論面を補強したい場合に向く
- 著作物性、創作性、権利帰属の理解に役立つ
- 試験対策よりも深掘り向き
AI法務
- 『AIと法 実務大全』
- AI開発、提供、利用に関する法務を広く扱う
- 著作権、個人情報、機密情報、不正競争防止法、利用規約、社内導入などを確認できる
- 実務寄りの記事にしたい場合に向く
- 『生成AI法務・ガバナンス』
- 生成AIの法務と社内統制をまとめて見たい場合に向く
- 企業利用、リスク管理、ルール整備の補強に使いやすい
AIガバナンス
- 『AIガバナンス入門』
- AIリスク、AI原則、AIガバナンスの全体像を学ぶ本
- AI社会原則を実務につなげる補助になる
読む順番
- 1冊目：『公式テキスト第4版対応版 生成AIパスポート テキスト＆問題集』
- 2冊目：『情報セキュリティ読本 七訂版』
- 3冊目：『生成AIと知財・個人情報Q&A』
- 4冊目：『AIの作品は誰のもの？ 弁理士と考えるAI×著作権』
- 5冊目：『AIガバナンス入門』
- 6冊目：『AIと法 実務大全』
コメント