Le chef de la sécurité d’OpenAI, Jan Leike, rejoint Anthropic soutenu par Amazon
Le chercheur en sécurité, Jan Leike, a récemment rejoint la startup Anthropic après avoir démissionné de OpenAI. Cette décision fait suite à la dissolution du super-alignment group au sein de OpenAI, que Leike co-dirigeait. Son nouveau travail chez Anthropic sera axé sur la supervision évolutive, la généralisation faible à forte et la recherche en alignement automatisé.
La sécurité de l’intelligence artificielle est devenue une préoccupation majeure dans le secteur technologique, notamment depuis la montée en puissance de produits basés sur l’IA générative, tels que ChatGPT, introduit par OpenAI en 2022. Certains craignent que ces avancées ne soient trop rapides et ne prennent pas suffisamment en compte les risques sociétaux potentiels.
En réponse à ces préoccupations, OpenAI a mis en place un comité de sécurité dirigé par des cadres supérieurs, dont le PDG Sam Altman, pour recommander les décisions en matière de sécurité pour les projets et les opérations de l’entreprise.
La startup Anthropic, fondée en 2021 par les frères Dario et Daniela Amodei et d’autres anciens cadres de OpenAI, a lancé son propre concurrent de ChatGPT, Claude 3, en mars. L’entreprise a reçu des financements de Google, Salesforce, Zoom et Amazon, soulignant l’importance croissante de la sécurité et de l’alignement dans le domaine de l’IA.
En conclusion, le passage de Jan Leike de OpenAI à Anthropic met en lumière l’importance croissante de la sécurité et de l’alignement dans le développement de l’intelligence artificielle. Les entreprises du secteur se mobilisent pour garantir que ces avancées technologiques se font de manière sûre et contrôlée afin d’éviter tout risque pour la société.
