子供の写真を共有していますか？ このディープフェイク広告を見た後はそうではないかもしれません

AIが生成した新たな動画広告キャンペーンがソーシャルメディア上で数百万回の再生回数を記録したことにより、多くの親が自分の子供についてどのような情報を公に共有するのか再考するようになるかもしれない。

ドイツテレコムのビデオは、子供のデジタルフットプリントが悪用されて彼らの人生に損害を与える可能性があることを説明するために、最新の人工知能技術を使用して、俳優が演じるエラと呼ぶ9歳の子供を仮想的に年齢を重ねている。

「あなたにとってこれらの写真は単なる思い出であることはわかっていますが、他の人にとってはデータです」とAIが生成したエラは、段階的に行われた社会実験で両親を演じるカップルに告げる。 「そして私にとっては、恐ろしい未来の始まりかもしれません。」

動画の中でエラの両親も俳優が演じており、エラの人生について頻繁にオンラインに投稿し、将来エラに引き起こされる可能性のある害に気付かずに気楽な瞬間を共有していると説明されている。

このビデオはフェイクだが、一部の専門家は、その警告メッセージは非常に本物だと言う。

「画像がオンラインで共有されると、その画像がどこに行き着くのかを制御するのは難しい場合があります」と、オンラインでの児童性的虐待の蔓延と闘う非営利団体ソーンのデータサイエンスディレクターであるレベッカ・ポートノフ博士はABCのインタビューで説明した。ニュース。

このキャンペーンでは、オンラインいじめから個人情報の盗難、児童性的虐待資料 (CSAM) の作成に至るまで、子供のデータを過剰に共有することによるさまざまな潜在的な危険性を文書化しています。

「悪意のある者は、さまざまなコンテンツ操作技術やサービスを使用して、通常は子供のソーシャルメディアアカウントやオープンウェブ上にある無害な写真やビデオを改変し、そのコンテンツを性的なものにします」とポートノフ氏は付け加えた。

これらの危険性は過去にも文書化されていますが、AI の台頭とアクセスのしやすさによってリスクはさらに悪化しています。 公開されている大量のデータと組み合わせることで、犯罪者はより多くのコンテンツを利用できるようになります。

「共有」は、子供に関するコンテンツをオンラインで共有する保護者を指す場合に使用される用語です。 シェアレンティングの潜在的な影響を研究しているボストン・チルドレンズ・デジタル・ウェルネス・ラボの専門家らは、これは親同士がつながるための簡単でアクセスしやすい方法だと説明した。

これらの専門家は、2030年までに年間740万件のなりすまし詐欺事件が、親によるオンラインでの個人情報の過剰共有に関連している可能性があるというバークレイズ銀行の推計を強調した。

ドイツテレコムのキャンペーンで示されているように、生成 AI により、声から姿まで、子供の似たものを忠実に再現することが可能になります。

このキャンペーンでは、AI アルゴリズムがどのようにして子どもの画像を自動的に識別して収集するのか、そしてそれらの画像を広告目的やポルノ コンテンツの作成に使用できる子どものプロフィールの作成にどのように使用できるのかについても詳しく説明しています。

ポートノフ氏のような専門家は、AIのおかげで、捕食者が公開されている画像から現実的な素材を作成したり、まったく新しい素材を作成したりすることが容易になっていると述べている。

同時に、Thorn のような組織は、CSAM を検出、削除、報告するツールを構築するための機械学習アルゴリズムも開発しました。

ボストン・チルドレンズ・デジタルの専門家は、「ソーシャルメディアの世界が進化し続ける中、親は友人や家族とのつながりと、子供たちをオンライン生活の影響に対処しなければならない個人として尊重することとの間でバランスを取るよう努めることができる」と促した。ウェルネスラボ。

親がどのようにバランスをとるかというと、写真やコンテンツを家族や友人とのプライベートアルバムにのみ共有し、公には共有しないことが、子供のプライバシーを保護し、リスクを最小限に抑えながら共有する方法の 1 つです。

ポートノフ氏はまた、家族がオンラインの安全性について子供たちを教育する方法についていくつかの提案をしました。

「親は、オンラインの安全性について早い段階から頻繁に子どもたちに話し、家庭でオープンで判断のない環境を育むことができます。子どもが使用するアプリ、ソーシャル ネットワーク、オンライン サービス、およびプライバシー管理の内容を理解するよう努めることができます。利用できるようにしてから、それらのプライバシー管理を活用してください」と彼女は言いました。 「個人情報の共有を避けることがなぜ重要なのか、オンラインで共有された内容は永続的に保持されるのかなど、オンラインの安全性について子供たちに教育することが重要です。」