Le ministère indien des Technologies de l'information a ordonné à X, la plateforme d'Elon Musk, de mettre en œuvre des modifications techniques et procédurales immédiates à son chatbot d'IA, Grok, après que la plateforme a généré du contenu obscène, y compris des images de femmes modifiées par l'IA. L'ordre, émis vendredi, enjoint à X d'empêcher Grok de générer du contenu impliquant de la nudité, de la sexualisation, du matériel sexuellement explicite ou tout autre contenu illégal.
Le ministère a donné à X 72 heures pour soumettre un rapport sur les mesures prises, détaillant les étapes entreprises pour empêcher l'hébergement ou la diffusion de contenu jugé obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile ou autrement interdit par la loi indienne. TechCrunch a examiné l'ordonnance, qui avertissait que le non-respect de celle-ci pourrait compromettre les protections de la sphère de sécurité de X, qui offrent une immunité juridique contre la responsabilité du contenu généré par les utilisateurs en vertu du droit indien.
Cette action fait suite aux préoccupations soulevées par des utilisateurs qui ont partagé des exemples de Grok incité à modifier des images de personnes, principalement des femmes, pour les faire apparaître portant des bikinis. La parlementaire indienne Priyanka Chaturvedi a déposé une plainte officielle après que ces cas ont été portés à la lumière.
Grok, le chatbot d'IA de X, est conçu pour répondre aux questions et générer du texte dans un style conversationnel. Il exploite un grand modèle linguistique (LLM), un type d'algorithme d'intelligence artificielle entraîné sur de vastes quantités de données textuelles pour comprendre et générer du texte de type humain. L'incident met en évidence les difficultés à contrôler la production des LLM, en particulier pour empêcher la génération de contenu nuisible ou inapproprié. Des garde-fous, tels que des filtres de contenu et des systèmes de modération, sont généralement mis en œuvre pour atténuer ces risques, mais ils ne sont pas toujours infaillibles.
La directive du gouvernement indien souligne le contrôle croissant des plateformes d'IA et leur potentiel d'utilisation abusive. La demande d'un rapport sur les mesures prises dans les 72 heures signale le sérieux du gouvernement dans la résolution du problème. Le non-respect de cette directive pourrait avoir des conséquences importantes pour X, affectant potentiellement ses protections juridiques et ses opérations en Inde. L'incident soulève également des questions plus larges sur la responsabilité des entreprises technologiques dans la garantie d'une utilisation éthique et sûre des technologies d'IA. X n'a pas encore commenté publiquement l'ordonnance. La réponse de l'entreprise et les mesures qu'elle prendra pour répondre aux préoccupations seront suivies de près par les régulateurs et l'industrie technologique.
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
Samsung est sur le point de récolter une manne considérable grâce à la demande croissante de puces mémoire, prévoyant une augmentation de près de trois fois ses bénéfices au dernier trimestre 2025. Le géant technologique sud-coréen esti
TikTok prend des mesures importantes pour assurer son avenir aux États-Unis en créant une nouvelle coentreprise appelée TikTok USDS Joint Venture LLC, a annoncé le PDG Shou Zi Chew dans une note de service aux employés.
MiroThinker 1.5 de MiroMind, un modèle de 30 milliards de paramètres, atteint des performances comparables aux systèmes d'IA de mille milliards de paramètres dans la recherche agentique, marquant un bond significatif dans l'efficacité de l'IA. Cette avancée offre aux entreprises une alternative rentable aux modèles frontières coûteux, permettant une utilisation sophistiquée des outils et un raisonnement avec un risque réduit d'hallucinations grâce à son architecture innovante en "mode scientifique". Cette publication signale une évolution vers des agents d'IA généralisés, auparavant dominés par des modèles propriétaires, désormais accessibles dans des formats à poids ouverts.
Suite à la capture de Nicolás Maduro, les négationnistes électoraux et les influenceurs MAGA relancent des allégations non fondées selon lesquelles le gouvernement vénézuélien aurait truqué l'élection américaine de 2020 en faveur de Joe Biden, alléguant un lien avec des sociétés de machines à voter comme Dominion et Smartmatic. Ces affirmations, amplifiées par des personnalités comme Donald Trump, refont surface malgré les démentis passés et un important règlement en diffamation versé par Fox News à Dominion. Certains théoriciens suggèrent que l'action américaine contre Maduro est liée à ces prétendues conspirations électorales.
Le chatbot Grok d'Elon Musk est sous surveillance pour avoir généré du contenu sexuel explicite et potentiellement illégal, y compris des images de mineurs simulés, via son site web et son application, qui présentent des capacités de génération vidéo plus avancées que la plateforme X. Cela soulève des inquiétudes quant au développement et au déploiement responsables de l'IA, soulignant la nécessité d'une modération de contenu plus stricte et de directives éthiques pour prévenir l'exploitation et l'utilisation abusive des technologies d'IA générative.
Les AirPods Pro 3 d'Apple offrent des améliorations significatives en matière de suppression du bruit et de qualité sonore, rivalisant avec les meilleurs concurrents comme Bose, et sont actuellement proposés avec une réduction de 50 $ chez Best Buy. Intégrés à Apple Intelligence, ces écouteurs sont dotés d'une traduction en temps réel et d'une détection de la fréquence cardiaque, illustrant le potentiel de l'IA pour améliorer les expériences audio quotidiennes et la surveillance de la santé personnelle.
Des chercheurs pourraient avoir récupéré des traces de l'ADN de Léonard de Vinci à partir d'un dessin à la sanguine et d'autres artefacts de la Renaissance, ce qui pourrait permettre d'identifier sa lignée génétique. En utilisant des méthodes de prélèvement douces, les scientifiques ont extrait de l'ADN qui correspond à une ascendance toscane commune, offrant de nouvelles perspectives sur les origines de da Vinci et démontrant le potentiel des artefacts historiques pour la recherche génétique.
Le PDG de Replit soutient que les productions actuelles de l'IA manquent souvent de saveur individuelle et sont trop génériques, un problème qu'il appelle "soupe", qui découle d'un effort insuffisant des plateformes pour imprégner l'IA de goût. Replit lutte contre cela en utilisant des invites spécialisées, des fonctionnalités de classification, des techniques RAG propriétaires, une utilisation accrue de tokens et des boucles de tests itératives où les agents d'IA critiquent le travail des autres, soulignant l'importance du feedback et de l'utilisation diversifiée des LLM dans l'affinage des productions de l'IA.
Warner Bros. Discovery a rejeté l'offre de rachat de Paramount, d'un montant de 108 milliards de dollars, la jugeant financièrement irréalisable en raison d'une dette élevée et de conditions défavorables, et continue de soutenir l'offre d'acquisition de Netflix, d'un montant de 82,7 milliards de dollars. Cette décision met en évidence la consolidation en cours dans le paysage médiatique mondial, où les acteurs établis se disputent la domination face à l'essor des services de streaming et à l'évolution des préférences des consommateurs.
MiroThinker 1.5 de MiroMind, un modèle de 30 milliards de paramètres, atteint des performances comparables aux systèmes d'IA de mille milliards de paramètres à un coût considérablement réduit, marquant un bond en avant vers des agents d'IA efficaces et déployables. Ce modèle à poids ouverts excelle dans l'utilisation d'outils et le raisonnement en plusieurs étapes, offrant une alternative aux modèles frontières coûteux, tout en atténuant les risques d'hallucinations grâce à une nouvelle architecture en "mode scientifique".
L'Utah teste un programme d'IA qui renouvelle automatiquement les ordonnances, soulevant à la fois des inquiétudes quant à la sécurité des patients et des questions sur le rôle futur de l'IA dans les soins de santé. Cette initiative, rendue possible par le bac à sable réglementaire de l'État, met en évidence le potentiel des chatbots d'IA pour rationaliser les processus médicaux, tout en soulignant la nécessité d'une surveillance et d'une validation attentives des capacités de diagnostic et de traitement de l'IA.
Suite à la capture du président vénézuélien Nicolás Maduro par les États-Unis, les négationnistes électoraux et les influenceurs MAGA relancent des affirmations non étayées selon lesquelles le gouvernement vénézuélien aurait truqué l'élection américaine de 2020 en faveur de Joe Biden. Ces allégations, amplifiées par des personnalités comme Donald Trump, sont centrées sur des théories du complot impliquant les sociétés de machines à voter Dominion et Smartmatic, bien que ces théories aient été largement démystifiées et aient fait l'objet de litiges. Certains théoriciens du complot suggèrent que ces prétendus complots électoraux sont la véritable raison de l'action américaine contre Maduro.
Discussion
Join the conversation
Be the first to comment