ほぼすべての議員が、人工知能を組み込んだソーシャルプラットフォームによって引き起こされる危害から子供たちを守るために、さらなる行動がとられることを望んでいる。しかし、ハイテク企業が責任を回避するために自社の製品がユーザーに危害を及ぼすことを防ぐ措置を講じなければならないかという問題は行き詰まりを引き起こしており、今月の新法の可決は困難になっている。
月曜日の夜、下院は超党派で児童インターネットおよびデジタル安全性（KIDS）法を賛成267対117で可決した。没入型の子供向け安全パッケージには、他の 12 以上の法案のテキストが組み込まれています。その規定には、プラットフォームがターゲットを絞った広告に子どもの個人データを使用することをブロックすることや、子どもがチャットボットに自傷行為や自殺を指示した場合にAIチャットボットに危機介入リソースを提供することを義務付けることが含まれる。
また、この法案には「屋内プラットフォームの提供者に注意義務を課すものではない」という小さな一文も含まれている。
なぜそれを書いたのでしょうか?
議員らはオンラインで子どもを保護する法律の制定に取り組んでいる。あるトラックでは大手テック企業に有害なアルゴリズムの変更を強制し、変更を怠ると違法となる。 2 つ目は自主ルールに依存していますが、批評家は効果がないと考えています。
この詳細により、法案が大統領に提出されるためには上院が承認する必要があるため、上院での法案の通過は非常に複雑になっています。
「注意義務」とは広義の用語で、ハイテク企業が自社製品によってユーザーが危害を受けることを防ぐために、たとえば中毒性の高い機能を意図的に設計しないなど、合理的な措置を講じなければならないことを意味します。そうしないと責任が問われます。
グレアム・スローン/シパ 米国/AP/ファイル
この法案をめぐる議会内の意見の分かれ目は、単純な党派的な方針に従っているわけではない。ほとんどが下院と上院で意見が分かれている。多くの議員（テネシー州の共和党上院議員マーシャ・ブラックバーン氏やコネチカット州の民主党リチャード・ブルーメンソール上院議員など）は、オンラインで子どもを守るための注意義務を法律に盛り込むことが必要だと主張している。それを含む法案を容認しない人もいるだろう。
議論がどのように行われるかによって、政府が将来の人工知能の責任に関するパラメーターをどのように設定するかが決まります。
「この種の自動ツールは、多大な被害をもたらします」と、オンラインプライバシーを教えるバージニア大学の法学教授ダニエル・シトロン氏は言う。 「現在、私たちは企業にこれらのコストを内部化してもらう方法を模索する瀬戸際にいます。」
インターネット上の子供の安全
ユーザー、特に子供に損害を与えた場合にデジタル プラットフォームがどの程度の責任を負えるかについては、AI が議論に加わる前から議論されてきました。
カリフォルニア州の訴訟で、陪審は3月、インスタグラムの親会社メタ社が、中毒性のあるプラットフォームの設計を怠ったことにより、若い女性の精神的健康上の悩みと自分の体についての否定的な考えの70パーセントに責任があると認定した。別の訴訟では、ニューメキシコ州の陪審はメタ社に消費者保護違反の責任があると認定した。メタは両方の判決に対して控訴すると発表した。
現在、AI の人気と、チャットボットがメンタルヘルスの危機に陥っている若いユーザーに自傷行為を促すのではないかといった問題を巡る疑問が、連邦レベルでの改革可決に向けた取り組みに新たな刺激を与えているようだ。
月曜夜に下院を通過したKIDS法に加え、ブラックバーン氏は政府と交渉中で、同様の人工知能安全法案の文面を最終決定している。この法案には注意義務が含まれるほか、人工知能に関する一部の州法の廃止を連邦法に置き換えるのを阻止する物議を醸す条項も含まれる。
テキサス州の共和党テッド・クルーズ上院議員は、13歳未満の子供のソーシャルメディア利用の禁止に加え、同様の条項を含むパッケージを推進する計画だ。同氏は注意義務の要求に前向きであることを示唆した。
ロイター通信は6月、メタ社がインスタグラムなどのオンラインプラットフォームを対象とした児童虐待訴訟からメタ社を守るための法案可決を議会議員に圧力をかけたと報じた。下院の現行版KIDS法にはそのような規定は含まれていない。
「AI に関する議論は大きな後押しとなり、これらの多くの問題に多くの注目が集まるようになりました。 [around duty of care]」とヴァンダービルト大学言論の自由の未来の上級法務研究員であるアシュケン・カザリアン氏は言う（彼女は以前、メタ社のコンテンツ規制チームに勤務していた）。
注意義務に関する質問
サンタクララ大学ロースクールのエリック・ゴールドマン教授は、注意義務の要件は根本的に曖昧だと主張する。ある子供にとっては有害である可能性のあるコンテンツが、別の子供にとっては中立か有益である可能性さえある、と彼は言います。
彼はLGBTQ+コミュニティを例に挙げています。同氏によると、LGBTQ+ の子どもたちはオンラインのサポート グループに依存することが多く、匿名でアクセスし、機密の健康情報を共有することもあります。
ブラックバーン氏が2025年に提出し、同氏がドナルド・トランプ大統領との交渉の基礎として利用するとみられる法案では、人々のオンラインプラットフォームの「強制的」使用に寄与する可能性のある機能を企業が設計することを禁止する条項が設けられている。
ゴールドマン氏にとって、これは、たとえそれを防ぐことを目的としているにもかかわらず、害を引き起こす可能性がある曖昧な法律の完璧な例である。中毒性があるためサービスの使用をやめられない子供もいるが、問題に対処するのに役立つため、サービスを広範囲に使用する子供もいるかもしれないと彼は言う。
「強制的な利用と、実際に生活を改善するという形でサービスの恩恵を受けている人々との境界線は何でしょうか?」彼は尋ねます。 「強迫的使用には医学的または心理学的観点からの定義はありません。」
シトロン教授は、注意義務は、あまりにも曖昧に適用される場合があると述べています。しかし彼女は、議員がより具体的な法律を制定することでこの問題を解決できると信じている。 「議員たちが真剣に考えれば理解できるはずだ」 [it] 出ました」と彼女は言います。
さらに重要なのは、中毒性があるとわかっているモデルを作成したり、子供たちがディープフェイクで露骨な性的ビデオなどに遭遇する可能性のある製品を設計したりすることについて、企業に責任を負わせることだと付け加えた。彼女は、親も子供も、ますます複雑化するオンライン世界を安全にナビゲートするためのツールを持っていない、と主張します。 MetaやOpenAIなどの企業のリーダーらは、自社の製品は中毒性を持たせるように設計されておらず、若いユーザーの安全を優先していると述べた。
「企業は外部化したコストを内部化せず、損をするのは子供たちだ」とシトロン教授は言う。
2024年の児童オンライン安全法案の注意義務条項に反対した共和党のランド・ポール上院議員（ケンタッキー州）のように、そのような条項は言論の自由や検閲の問題につながる可能性があると主張する人もいる。
マンダービルトの法学者カザリアン博士もこうした懸念を共有しています。彼女によると、プラットフォームは注意義務の一環として、ボディポジティブが健全な自己愛の一形態なのか、肥満を促進するのかなど、合衆国憲法修正第1条で保護されている問題について判断する必要があるという。
「どの演説や演説の一部が間違っているかを政府に決めてほしくないのです」と彼女は言う。
また、企業が報復を恐れると、価値のあるコンテンツを過剰に修正し、慎重に削除してしまうのではないかと彼女は懸念している。