Yao (Tencent) : l'IA approche du seuil où elle peut nuire en bio

«Les capacités cyber des modèles IA, et bientôt leurs capacités bio, vont atteindre un seuil où il devient réellement possible de faire du mal», a déclaré Yao Shunyu, chief AI scientist de Tencent, samedi à Hong Kong, lors d'un symposium scientifique co-organisé par la Hong Kong Academy of Sciences et le Future Science Prize, rapporte le South China Morning Post.

Yao estime les risques biologiques plus difficiles à contenir que les risques cyber, et met en garde contre des acteurs malveillants qui pourraient détourner ces systèmes pour concevoir des armes biologiques ou déclencher de nouvelles pandémies.

Sur le débat open-source, il concède qu'Anthropic et d'autres acteurs américains «make a strong case for keeping top models closed», tout en défendant un mélange de modèles ouverts et fermés : l'ouverture, selon lui, profite aussi aux défenseurs.

La mise en garde intervient quatre jours après le lancement de Hy4, modèle phare de Tencent sorti le 4 novembre avec 770 milliards de paramètres. Selon The Next Web, Hy4 a été entraîné en écartant les exploits de hacking offensifs au profit de données de sécurité défensive, et affiche de solides bases en biologie mais un design expérimental en retrait sur ses rivaux. Tencent prévoit de publier les poids et un rapport d'évaluation de sûreté dans les jours qui viennent.

Yao, 29 ans, a rejoint Tencent l'an dernier après un an chez OpenAI, où il a contribué aux produits Operator et Deep Research.