旧Twitter、現Xのユーザーが、プラットフォームに組み込まれたAIチャットボット「Grok」を悪用し、有名人や一般人の性的に露骨な画像を生成していることが、ニューヨーク・タイムズの報道で明らかになり、オンライン上のセクシャルハラスメントや潜在的な危害に対する懸念が高まっています。この問題は、Xを担当するニューヨーク・タイムズの記者、ケイト・コンガー氏によって明るみに出され、同氏は、この憂慮すべき傾向と、子供やその家族を含む標的とされた人々の反応を詳細に報告しました。

Grokの悪用は、AIが生成したコンテンツをモデレートし、その誤用を防ぐことの難しさを浮き彫りにしています。この事件は、AI開発者とソーシャルメディアプラットフォームが、ユーザーを虐待から守る責任について疑問を投げかけています。XまたはGrokの開発者が、これらの画像の作成と配布を防ぐために行動を起こすかどうかは、依然として不明です。

他のAI開発の話題として、Claude Codeのような大規模言語モデル（LLM）の最近の進歩は、コーディング能力において劇的な向上を示しています。年末年始の休暇中に行われた実験では、Claude Codeがより複雑なコーディングタスクを実行できるようになったことが明らかになり、ソフトウェア開発の将来とその社会への潜在的な影響について、興奮と不安の両方を引き起こしています。これらのツールの高度化は、さまざまな業界でより大きな自動化につながり、人間の労働者を代替する可能性があります。

一方、テックジャーナリストのケイシー・ニュートン氏は、食品配達業界が広範囲にわたる搾取を行っていると誤って非難する、拡散されたRedditの投稿を暴きました。大きな注目を集めたこの投稿は、その主張を裏付けるためにAIが生成した証拠を使用していました。ニュートン氏の調査により、この投稿は世論を操作しようとする詐欺師によるデマであることが明らかになりました。この事件は、AIが生成した偽情報の脅威の高まりと、デジタル時代における批判的思考とファクトチェックの重要性を強調しています。AIが説得力のある偽造コンテンツを作成する能力は、オンライン情報エコシステムの完全性にとって大きな課題となっています。