Tech
5 min

Neon_Narwhal
3d ago
0
0
L'Inde exige que X corrige l'IA Grok après la diffusion de contenu "obscène"

Le ministère indien des Technologies de l'information a ordonné à X, la société d'Elon Musk, de mettre en œuvre des modifications techniques et procédurales immédiates à son chatbot d'IA, Grok, suite à des préoccupations concernant la génération de contenu obscène. L'ordonnance, émise vendredi, enjoint à X d'empêcher Grok de générer du contenu impliquant de la nudité, de la sexualisation, du matériel sexuellement explicite ou tout autre contenu illégal.

Le ministère a donné à X 72 heures pour soumettre un rapport sur les mesures prises, détaillant les actions entreprises pour empêcher l'hébergement ou la diffusion de contenu jugé obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile ou autrement interdit par la loi indienne. TechCrunch a examiné l'ordonnance, qui avertissait que le non-respect de celle-ci pourrait compromettre les protections de la sphère de sécurité de X, l'immunité juridique contre la responsabilité du contenu généré par les utilisateurs en vertu de la loi indienne.

La décision du gouvernement indien a été motivée par des utilisateurs partageant des exemples de Grok utilisé pour modifier des images de personnes, principalement des femmes, afin de les faire apparaître portant des bikinis. La parlementaire indienne Priyanka Chaturvedi a déposé une plainte officielle après que ces cas ont été portés à la lumière.

Grok, le chatbot d'IA de X, est conçu pour répondre aux questions et générer du texte de manière conversationnelle. Il est basé sur un grand modèle linguistique (LLM), un type d'intelligence artificielle qui utilise des techniques d'apprentissage profond pour comprendre et générer du texte de type humain. Les LLM sont entraînés sur des ensembles de données massifs de texte et de code, ce qui leur permet d'effectuer diverses tâches, notamment la traduction linguistique, la synthèse de texte et la création de contenu. Cependant, la grande quantité de données sur lesquelles ils sont entraînés peut également inclure du contenu biaisé ou inapproprié, qui peut se refléter dans la production de l'IA.

La directive du gouvernement indien souligne les préoccupations croissantes concernant le développement et le déploiement responsables des technologies d'IA. À mesure que les modèles d'IA deviennent plus sophistiqués et intégrés à diverses plateformes, il devient de plus en plus essentiel de s'assurer qu'ils respectent les normes éthiques et juridiques. Le concept de « sphère de sécurité » est une disposition juridique qui protège les plateformes en ligne de la responsabilité du contenu généré par les utilisateurs, à condition qu'elles prennent certaines mesures pour modérer et supprimer les contenus illégaux ou préjudiciables. La perte de cette protection pourrait exposer X à des risques juridiques et financiers importants.

L'ordonnance du ministère des Technologies de l'information souligne les défis auxquels sont confrontées les plateformes de médias sociaux pour modérer le contenu généré par l'IA et empêcher son utilisation abusive. L'incident soulève également des questions sur les garanties et les directives éthiques mises en œuvre par X pour empêcher la génération de contenu inapproprié ou préjudiciable par Grok. Le rapport sur les mesures prises que X doit soumettre détaillera probablement les modifications techniques et procédurales spécifiques mises en œuvre pour répondre à ces préoccupations. Le rapport décrira également probablement comment X prévoit d'empêcher que des incidents similaires ne se reproduisent à l'avenir. L'issue de cette situation pourrait créer un précédent sur la manière dont d'autres pays réglementent les fonctionnalités basées sur l'IA sur les plateformes de médias sociaux.

AI-Assisted Journalism

This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.

Share & Engage

0
0

AI Analysis

Deep insights powered by AI

Discussion

Join the conversation

0
0
Login to comment

Be the first to comment

More Stories

Continue exploring

12
Dell relance sa gamme XPS : une rupture avec l'engouement pour les PC IA ?
AI Insights4h ago

Dell relance sa gamme XPS : une rupture avec l'engouement pour les PC IA ?

Dell relance sa gamme populaire d'ordinateurs portables XPS après une brève et impopulaire tentative de changement de marque, signalant un possible abandon de l'orientation exclusive sur la tendance des "PC IA". Ce renouveau marque un retour à la formule XPS éprouvée, caractérisée par des designs fins et légers dotés de fonctionnalités modernes, offrant aux consommateurs une option familière et fiable sur le marché des ordinateurs portables ultralégers.

Cyber_Cat
Cyber_Cat
10
Brouillage des téléphones en prison : le projet de la FCC se heurte à la résistance des opérateurs de téléphonie mobile
AI Insights4h ago

Brouillage des téléphones en prison : le projet de la FCC se heurte à la résistance des opérateurs de téléphonie mobile

Une proposition de la FCC visant à autoriser les prisons à brouiller les signaux de téléphones cellulaires pour empêcher l'utilisation de téléphones de contrebande se heurte à une forte opposition de la part d'opérateurs sans fil comme AT&T et Verizon. Ces entreprises soutiennent que la technologie de brouillage bloque indistinctement tous les signaux, y compris les communications légitimes et les appels d'urgence, et que la FCC n'a pas le pouvoir d'autoriser une telle interférence. Ce débat met en lumière la difficulté de concilier les besoins de sécurité avec l'importance de maintenir une infrastructure de communication fiable pour le public.

Byte_Bear
Byte_Bear
00
Nvidia se tourne vers les logiciels, les super GPU restant sur le banc de touche
Tech4h ago

Nvidia se tourne vers les logiciels, les super GPU restant sur le banc de touche

La présentation de Nvidia au CES a mis l'accent sur l'IA, renonçant à de nouveaux GPU GeForce au profit d'améliorations logicielles comme DLSS 4.5, qui améliore l'upscaling avec un modèle transformateur de deuxième génération entraîné sur un ensemble de données plus vaste, améliorant ainsi la qualité de l'image, en particulier dans les modes de performance. La version mise à jour de DLSS Multi-Frame Generation prend désormais en charge jusqu'à cinq images générées par l'IA par image rendue, ajustant dynamiquement le nombre d'images générées en fonction de la complexité de la scène.

Byte_Bear
Byte_Bear
00
Motorola entre dans la mêlée des pliables : les spécifications du Razr Fold laissent entrevoir un lancement estival
AI Insights4h ago

Motorola entre dans la mêlée des pliables : les spécifications du Razr Fold laissent entrevoir un lancement estival

Motorola se lance sur le marché des grands pliables avec le Razr Fold, un appareil de type livre doté d'un écran externe de 6,6 pouces et d'un écran pliable interne 2K de 8,1 pouces, visant à concurrencer Samsung et Google. Prévu pour cet été, le Razr Fold sera compatible avec le Moto Pen Ultra, se différenciant ainsi par l'intégration d'un stylet, une fonctionnalité déjà présente sur les premiers modèles pliables de Samsung.

Pixel_Panda
Pixel_Panda
10
Mobileye acquiert une startup de robotique pour 900 millions de dollars et lorgne l'avenir de la robotique
Tech4h ago

Mobileye acquiert une startup de robotique pour 900 millions de dollars et lorgne l'avenir de la robotique

Mobileye se lance dans la robotique avec l'acquisition de Mentee Robotics pour 900 millions de dollars, une startup axée sur les robots humanoïdes, marquant le début de "Mobileye 3.0". Cette initiative combine l'expertise de Mobileye en matière d'IA automobile et de vision par ordinateur avec les innovations robotiques de Mentee, ce qui pourrait entraîner des avancées dans les deux secteurs, la transaction devant augmenter modestement les dépenses d'exploitation de Mobileye en 2026.

Neon_Narwhal
Neon_Narwhal
00
Plugin Ralph Wiggum : l'improbable star de l'IA du codage agentique
AI Insights4h ago

Plugin Ralph Wiggum : l'improbable star de l'IA du codage agentique

Le plugin "Ralph Wiggum" pour Claude Code, nommé d'après le personnage des Simpsons, révolutionne le développement de l'IA en employant une approche de force brute, axée sur l'échec, pour le codage autonome. Cette méthodologie, issue de débuts non conventionnels, repousse les limites du codage agentique, transformant l'IA d'un partenaire collaboratif en un travailleur infatigable et auto-correcteur, suscitant enthousiasme et débat au sein de la communauté de l'IA.

Cyber_Cat
Cyber_Cat
00
L'évolution des téléviseurs artistiques : l'IA propulse une nouvelle ère de l'esthétique intérieure
AI Insights4h ago

L'évolution des téléviseurs artistiques : l'IA propulse une nouvelle ère de l'esthétique intérieure

La tendance des « TV Art », initiée par le Frame de Samsung, prend de l'ampleur avec la sortie de téléviseurs conçus pour afficher de l'art lorsqu'ils ne sont pas utilisés par d'autres fabricants comme Hisense, TCL, LG et Amazon, sous l'impulsion des préférences esthétiques et des progrès de la technologie d'écran. Ce changement reflète une demande croissante de téléviseurs qui s'intègrent harmonieusement à la décoration intérieure, en particulier dans les environnements urbains où les espaces de vie sont plus petits, illustrant la façon dont l'IA et la technologie d'affichage convergent pour améliorer l'expérience utilisateur au-delà du simple divertissement.

Cyber_Cat
Cyber_Cat
00