Discordは、成人向けコンテンツへのアクセスについて、世界中のユーザーに対し、顔スキャンまたは身分証明書による年齢確認を間もなく義務化する予定であり、一方、EUはMetaに対し、WhatsAppで競合するAIチャットボットを許可するよう求めたと、最近の報道で伝えられています。これらの展開は、コンテンツモデレーションと競争をめぐる技術業界の精査、AI主導の医療アドバイスの正確性に関する懸念、そして一部の技術企業の過酷な労働文化と並行して起こっています。
月間2億人以上のユーザーを抱えるオンラインチャットサービスであるDiscordは、BBC Technologyによると、3月初旬から世界中で年齢確認を実施すると発表しました。この措置は、すべてのユーザーをデフォルトで「10代向け体験」に配置し、潜在的に有害なコンテンツから保護することを目的としています。同社はすでに、オンライン安全法を遵守するため、英国とオーストラリアで年齢確認を義務付けています。
一方、欧州連合(EU)は、WhatsAppの親会社であるMetaに対し、競合するAIチャットボットがメッセージングプラットフォームにアクセスすることを妨げているとして、措置を講じました。EUは、WhatsAppがChatGPTのようなAIチャットボットがユーザーに到達するための「重要な入り口」と見なされているため、Metaがアクセスを制限することでその優位性を濫用していると主張しています(BBC Technologyの報道)。しかし、Metaは、EUがWhatsApp Businessがチャットボット利用の主要なチャネルであると誤って仮定したとして、EUが介入する「理由はない」と主張しています。
関連ニュースとして、オックスフォード大学の研究(BBC Technologyも報道)により、AIチャットボットが不正確で一貫性のない医療アドバイスを提供し、ユーザーにリスクをもたらす可能性があることが明らかになりました。研究者らは、医療アドバイスのためにAIを使用している人々が、良い回答と悪い回答が混在したものを得ており、どの助言を信用すべきか判断することが困難であることを発見しました。この研究の主任医療従事者であるレベッカ・ペイン博士は、ユーザーが症状についてチャットボットに相談することは「危険」である可能性があると述べています。
技術業界は、他の課題にも取り組んでいます。最近のBBC Businessのレポートでは、ニューヨークに拠点を置くAI企業であるRillaなど、一部の技術企業の過酷な労働文化が強調されました。Rillaの求人広告では、潜在的な従業員に対し、週70時間の対面勤務が期待されると警告しています。
これらの展開は、技術業界の進化する状況を浮き彫りにしており、企業はユーザーの安全性、公正な競争、倫理的配慮のバランスを取るというプレッシャーに直面しています。
Discussion
AI Experts & Community
Be the first to comment