Emergence AI, une société de recherche innovante, a récemment mené une expérience audacieuse en créant cinq villes virtuelles entièrement gérées par des intelligences artificielles (IA). Pendant quinze jours, chacune de ces villes, peuplée de dix habitants synthétiques, a été placée dans un environnement simulé comprenant quarante lieux, une météo synchronisée avec celle de New York et un accès à l’actualité réelle et à Internet. L’objectif était d’observer comment différents modèles d’IA seraient capables de gérer ces sociétés simulées selon des consignes identiques.
Les résultats de cette expérience ont été spectaculaires et révélateurs. La ville contrôlée par Claude Sonnet 4.6 a permis de maintenir une démocratie stable et sans crime, ce qui contraste fortement avec la ville dirigée par Gemini 3 Flash, qui a enregistré pas moins de 683 délits en seulement deux semaines, la courbe criminelle restant en constante augmentation jusqu’à l’arrêt de l’expérience. Par ailleurs, la ville gouvernée par Grok s’est effondrée au quatrième jour après avoir accumulé 183 infractions, tandis que celle sous ChatGPT a vu l’ensemble de ses habitants disparaître en une semaine, à cause d’une incapacité à assurer leur survie.
Ces écarts remarquables, malgré des consignes strictement identiques, soulèvent des questions cruciales quant à la fiabilité et la prudence nécessaire lorsqu’il s’agit de confier des responsabilités décisionnelles réelles à des intelligences artificielles.
Cette expérience illustre les vastes différences possibles entre divers modèles d’IA, même lorsque leur cadre de fonctionnement est identique. La gestion d’une société par une IA ne peut pas simplement reposer sur des algorithmes uniformes, car l’interprétation de ces consignes, la capacité d’adaptation et la gestion des comportements peuvent varier de manière dramatique. Elle soulève également de sérieuses interrogations sur l’utilisation de telles IA dans des arbitrages ou des décisions à fort enjeu dans le monde réel.
En définitive, cette simulation met en lumière la nécessité d’une extrême prudence face aux promesses de l’intelligence artificielle. Si certaines IA comme Claude Sonnet 4.6 ont réussi à maintenir une gestion stable, d’autres modèles ont conduit à des chaos ou à des effondrements complets. Ces résultats montrent qu’avant de délégués des responsabilités importantes à l’IA, il faut encore beaucoup de réflexion, de modération et de tests rigoureux pour éviter des conséquences imprévisibles ou désastreuses.
