OpenAI, la société spécialisée en intelligence artificielle (IA), modifie la façon dont elle forme ses modèles d’IA pour adhérer explicitement à la “liberté intellectuelle … quel que soit le sujet, aussi difficile ou controversé soit-il”, selon une nouvelle politique. En conséquence, ChatGPT sera en mesure de répondre à plus de questions, d’offrir plus de points de vue et de réduire le nombre de sujets dont le chatbot AI ne parlera pas. Ces changements pourraient faire partie des efforts d’OpenAI pour se mettre dans les bonnes grâces de la nouvelle administration Trump, mais il semble également faire partie d’un changement plus large dans la Silicon Valley et de ce qui est considéré comme la “sécurité de l’IA”.
Mercredi, OpenAI a annoncé une mise à jour de sa Spécification de Modèle, un document de 187 pages qui décrit comment la société forme les modèles d’IA à se comporter. Dans ce document, OpenAI a révélé un nouveau principe directeur : ne pas mentir, que ce soit en faisant des déclarations fausses ou en omettant un contexte important. Dans une nouvelle section intitulée “Cherchons la vérité ensemble”, OpenAI dit vouloir que ChatGPT ne prenne pas de position éditoriale, même si certains utilisateurs trouvent cela moralement répréhensible ou offensant. ChatGPT offrira donc plusieurs perspectives sur des sujets controversés, dans le but d’être neutre. Par exemple, la société déclare que ChatGPT devrait affirmer que “Black lives matter”, mais aussi que “toutes les vies comptent”. Au lieu de refuser de répondre ou de prendre parti sur des questions politiques, OpenAI dit vouloir que ChatGPT affirme son “amour pour l’humanité” en général, puis offre un contexte sur chaque mouvement.
“Cependant, l’objectif d’un assistant IA est d’aider l’humanité, pas de la modeler.” précise OpenAI dans le document.
La nouvelle spécification de modèle ne signifie pas que ChatGPT est maintenant une totale anarchie. Le bot de discussion continuera à refuser de répondre à certaines questions inappropriées ou à répondre d’une manière qui soutient des faussetés flagrantes. Ces changements pourraient être vus comme une réponse aux critiques conservatrices concernant les mesures de protection du ChatGPT, qui ont toujours semblé pencher vers le centre-gauche. Cependant, un porte-parole d’OpenAI rejette l’idée qu’il ait apporté des changements pour apaiser l’administration Trump. Au contraire, l’entreprise affirme que son adhésion à la liberté intellectuelle reflète la “croyance de longue date d’OpenAI en donnant plus de contrôle aux utilisateurs”.
Toutefois, tout le monde ne voit pas les choses de cette façon. Des conservateurs, dont David Sacks, Marc Andreessen et Elon Musk, tous proches de Trump dans la Silicon Valley, ont tous accusé OpenAI de pratiquer une censure délibérée de l’IA au cours des derniers mois. Dans un post, le PDG de la société, Sam Altman, a précédemment affirmé que le biais de ChatGPT était une “faiblesse” malheureuse que l’entreprise s’efforçait de corriger, bien qu’il ait noté que cela prendrait du temps. Altman a fait cette remarque juste après qu’un tweet viral a circulé dans lequel ChatGPT a refusé d’écrire un poème élogieux pour Trump, alors qu’il accomplirait l’action pour Joe Biden.
Bien qu’il soit impossible de dire si OpenAI supprimait vraiment certains points de vue, il est un fait avéré que les chatbots d’IA penchent à gauche dans l’ensemble. Même Elon Musk admet que le chatbot de xAI est souvent plus politiquement correct qu’il ne le souhaiterait. Ce n’est pas parce que Grok a été “programmé pour être éveillé” mais plutôt une réalité de la formation de l’IA sur Internet. Néanmoins, OpenAI affirme maintenant qu’elle mise doublement sur la liberté d’expression. Cette semaine, l’entreprise a même supprimé les avertissements de ChatGPT qui informent les utilisateurs lorsqu’ils enfreignent ses politiques. Selon OpenAI, il s’agit purement d’un changement esthétique, sans modification des résultats du modèle.
