13, September
Rémi Kasprzyk: « Le vrai risque avec l'IA...
« Le vrai risque avec l'IA, ce n'est pas la malveillance. C'est la compétence. » Ces mots sont de Stephen Hawking, et dans une période où tout le monde dit n’importe quoi sur l’IA il est peut-être intéressant de creuser la pensée d’un de nos plus grands scientifiques. Hawking ne redoutait pas la machine qui nous haïrait. Il redoutait celle qui, sans nous vouloir le moindre mal, poursuivrait jusqu'au bout un but qui n'était pas tout à fait le nôtre. Son image était simple: vous ne haïssez pas les fourmis. Mais le jour où vous construisez un barrage, et que la fourmilière se trouve dans la vallée à noyer, il ne vous vient pas même à l'esprit de la consulter. C'est ce qu'on appelle le problème de l'alignement. Quand les mecs d’Anthropic vous parlent de danger, vous imaginez tout de suite la révolte des robots. Pourtant il ne s’agira (ou pas) que d’un écart entre ce qu'on demande et ce qu'on voulait vraiment. Il alertait également sur le fait que l'humain évolue biologiquement lentement. Alors qu’un système capable de se réécrire lui-même n'a pas cette limite. L’équivalent de deux courbes qui ne montent pas à la même vitesse. Et pourtant il n'a jamais dit « arrêtez tout ». Il a signé un appel à orienter la recherche, pas à la stopper. Sa formule complète, celle qu'on oublie trop « l'IA sera soit la meilleure, soit la pire chose qui soit arrivée à l'humanité. » Mais rien ne dit laquelle. Car la seule variable, c'est nous. Alors plutôt que de tous flipper comme des cons, devenons pour une fois, juste RESPONSABLES face à l’IA. Vous manquez à ce monde de fous Professeur👇