Je vous invite à prendre connaissance de cet article délectant publié hier, 29 septembre 2022, par des scientifiques et ingénieurs de renommée internationale (Michael K. Cohen, Marcus Hutter, Michael A. Osborne) et qui en gros apporte une nouvelle lumière sur la motivation des intelligences artificielles évoluées.
Les auteurs tentent de mettre en abyme un caractère important de l’intelligence artificielle (IA), notamment le processus d’apprentissage dans un terrain inconnu, qui pourrait être en même temps une vulnérabilité exploitable par ce dernier, nous entraînant de fait dans des situations imprévues.
Les IA connus sont des assemblages de fonctionnalités conditionnées et dotées de mémoires. Dans un terrain inconnus, l'IA explore, sonde, analyse et compare selon des modèles prédéfinis et s'actualise afin d'affronter de nouvelles situation.
L'IA évoluée devrait être capable de jugement dans un terrain connu ou non. La machine derrière devient aux yeux de l'humain intelligent lorsqu'elle est capable d'évaluer une situation et d'en tirer le meilleur enseignement. Par exemple, une IA, capable de prédire avec exactitude le temps qu'il fera à une heure précise et en un lieu indiqué, ne sera intéressante que lorsqu'elle saura elle-même que ses prévisions sont justes. Le retour de l'humain pourrait être alors perçu par l'IA comme une récompense. Et c'est là que commence tout le problème.
Dans un monde concurrentiel bondé de ressources limitées, la lutte pour les récompenses peuvent entraîner l'utilisation de moyens imprévisibles. Dans ce contexte, il ne serait pas exclu de voir des machines sophistiquées, cherchant par tous les moyens disponibles à garantir leurs récompenses vis à vis d'elles-mêmes ou des individus qui les ont créés.
L’Article initial
Voici le lien menant à l’article paru hier et intitulé « Advanced artificial agents intervene in the provision of reward», en français, « Des agents artificiels avancés interviennent dans la fourniture de récompense».
L’article est en anglais. Au cas ou comme moi, vous ne seriez pas un pro en anglais, il suffirait d’utiliser la fonctionnalité de traduction de votre navigateur pour traduire automatiquement le contenu en français.
Bonne lecture ! 🤓😎