ウェストフィールド高校に通う15歳のフランチェスカさんは、当時14歳だった2023年10月に、同じ学校に通う男子生徒がAIを使用してフランチェスカさんらの性的な画像を生成し、生徒同士で共有するという事件の被害者になりました。しかし、新しい技術に法律が追いついていないこともあり、救済の道は険しいことが報じられています。
AIで顔と裸を合成する「ディープフェイクポルノ」の被害に遭った女子高生たちにほとんど救済の道がないことが問題に - GIGAZINE
フランチェスカさんの家族は、事件発生から半年が経過しつつある記事作成時点でも、学校側は事件を公に取り上げたり、AIの使用を阻止するために学校のポリシーを更新したりしていないと非難しています。
母親のドロタ・マニ氏は学区の理事会の席で、「ウェストフィールド高校の管理者と学区は、まるでこの事件をうやむやにするための名人芸を披露しているかのようです」と、理事たちに詰め寄りました。
一方の学校側は、事件が発覚した直後に調査を開始し、警察に通報して生徒らにグループカウンセリングを受けさせたとしています。ウェストフィールド学区のレイモンド・ゴンザレス教育長は声明の中で、「すべての学区は、人工知能やその他のテクノロジーが生徒に与える影響や、その課題に取り組んでいます」と述べました。
マニ氏によると、ウェストフィールド高校の事件は2023年の夏に、ある男性生徒がInstagramのプライベートアカウントを持つ15歳の同級生の女子生徒とフレンドになりたいと頼んだのが発端だとのこと。女子生徒がそのリクエストを承認すると、男子生徒はその女子生徒を含む数人の女子生徒の写真をソーシャルメディアから入手し、AIアプリを使って本人の顔がわかる性的に露骨な画像を作成してSnapchatで同級生と共有したと、裁判資料には書かれています。
The New York Timesの取材を受けたフランチェスカさんと母親のドロタ・マニ氏。
フランチェスカさんによると、学校は10月下旬に調査を開始したとのこと。学校の管理者らは、数人の男子生徒を静かに呼び出して事情聴取する一方、フランチェスカさんを含む被害者の女子生徒を校内アナウンスで呼び出しました。
そして、その週にウェストフィールド高校のメアリー・アスフェンディス校長は保護者に「誤情報が広まる結果となった事態」についてのメールを送信しました。そのメールの中で校長は、ディープフェイクを「非常に深刻な事件」と表現しています。一方、画像が共有されているとの懸念が生徒の間に残っているにもかかわらず、学校側は「作成された画像はすべて削除され、もう出回っていない」との見方を示したとのことです。
その後、学区側は画像を作ったとして告発された男子生徒を1～2日の停学処分にしたと、マニ氏に伝えました。フランチェスカさんは、「この事件について私たちは学校のポリシーを更新し始めなければなりません。もし学校にAIを規定するポリシーがあれば、私のような生徒は守られていたはずです」と話しています。
ディープフェイクやディープヌードの問題は、嫌がらせやいじめを通じて被害者の身体的安全や精神的健康、評判を害し、進学や就職にも悪影響をもたらすおそれがあると専門家は警鐘を鳴らします。2024年3月、FBIは「生成AIやそれに準じたオンラインツールによって作成された児童性的虐待素材は違法です」とする声明を発表しました。
しかし、生徒によるAIアプリの悪用は学校にとって新しい問題であり、教育現場は対応に苦慮しています。
そのことを示す象徴的な事件が、ワシントン州イサクアのイサクア高校で2023年11月に発生した、ディープヌードにまつわる事件です。この事件で、被害者となった女子生徒の保護者の通報で捜査をしていた警察が、副校長に「なぜ学校が警察に通報しなかったのですか？」と尋ねたところ、副校長は「何を通報するんですか？」と逆に質問したことが、警察の調書に記されています。
続く
以下ソース
https://gigazine.net/news/20240412-high-school-deepfake-ai-nudes/
