Le PDG de Salesforce, Marc Benioff, a remis en question l'accent mis par l'industrie technologique sur la croissance lors du Forum économique mondial à Davos, en Suisse, mardi, se demandant si cela n'éclipsait pas le bien-être des enfants à l'ère de l'intelligence artificielle. Les remarques de Benioff, faites lors d'une table ronde intitulée « D'où peut venir la nouvelle croissance ? », étaient axées sur la nécessité d'une plus grande responsabilisation des entreprises technologiques concernant les dommages potentiels de l'IA et des médias sociaux.

Benioff a spécifiquement ciblé la Section 230 du Communications Decency Act, une loi promulguée en 1996 qui protège les fournisseurs de sites Web de la responsabilité du contenu publié par les utilisateurs. Il a fait valoir que cette protection juridique empêche les géants de la technologie d'être tenus responsables des conséquences négatives découlant de leurs plateformes et des technologies d'IA. « Des choses comme la Section 230 aux États-Unis doivent être remodelées parce que ces technologies », a déclaré Benioff, impliquant la nécessité d'une réforme pour relever les défis évolutifs posés par la technologie moderne.

La Section 230 visait à l'origine à favoriser la croissance d'Internet en protégeant les entreprises qui hébergent du contenu généré par les utilisateurs. La loi considère essentiellement les plateformes Internet comme des distributeurs plutôt que des éditeurs, ce qui signifie qu'elles ne sont pas responsables du contenu publié par les utilisateurs, à quelques exceptions près. Cette protection a permis aux forums en ligne et aux plateformes de médias sociaux de prospérer, car ils n'étaient pas chargés de la responsabilité de surveiller chaque élément de contenu.

Cependant, les critiques soutiennent que la Section 230 a permis aux entreprises technologiques d'éviter d'avoir à rendre des comptes sur la diffusion de désinformation, de discours haineux et d'autres contenus préjudiciables. L'essor de technologies d'IA sophistiquées, capables de générer des informations réalistes mais fausses, a amplifié ces préoccupations. Le débat autour de la Section 230 reflète une discussion plus large sur les responsabilités éthiques des entreprises technologiques à l'ère des progrès technologiques rapides.

Les implications de l'IA s'étendent au-delà des médias sociaux, touchant divers secteurs, de la santé à la finance. Les algorithmes d'IA sont de plus en plus utilisés pour prendre des décisions qui affectent la vie des gens, soulevant des inquiétudes quant aux préjugés, à l'équité et à la transparence. À mesure que les systèmes d'IA deviennent plus complexes, il devient plus difficile de comprendre comment ils arrivent à leurs conclusions, ce qui conduit à ce que l'on appelle souvent le problème de la « boîte noire ».

Les commentaires de Benioff s'ajoutent au chœur croissant de voix appelant à une plus grande réglementation de l'industrie technologique. L'Union européenne, par exemple, a adopté une approche plus proactive en matière de réglementation de l'IA avec l'AI Act, qui vise à établir un cadre juridique pour le développement et le déploiement de l'IA. Le débat sur la manière de concilier innovation et développement responsable se poursuivra probablement à mesure que les technologies d'IA deviendront plus omniprésentes. Le remodelage de la Section 230, ou d'une législation similaire, pourrait modifier considérablement le paysage d'Internet et les responsabilités des entreprises technologiques dans les années à venir.