Nous confondons deux types d’AGI

Je pense que le plus gros problème du débat sur l’AGI est que nous confondons deux types d’AGI.

Je propose de les réfléchir et d’en discuter comme deux choses différentes :

1. AGI douce: Un système d’IA implémenté en tant que projet produit/OSS qui émule suffisamment bien la généralité de l’apprentissage pour remplacer les travailleurs du savoir.
2. AGI dur: Une technologie d’IA qui atteint réellement une généralité d’apprentissage au niveau humain, lui permettant d’effectuer la plupart des tâches cognitives aussi bien, voire mieux, que n’importe quel humain.

En d’autres termes, Soft AGI est une émulation de la réalité qui est suffisamment performante pour remplacer les travailleurs du savoir et avoir un impact sur l’économie. Et Hard AGI est la vraie chose, d’un point de vue académique et informatique. C’est une véritable machine à apprendre qui peut généraliser.

La plus grande confusion vient du fait qu’un côté parle de l’un tandis que l’autre pense à l’autre.

En tant qu’ingénieur, lecteur de science-fiction et nerd général, je me soucie beaucoup de Hard AGI. C’est super intéressant, et ce sera révolutionnaire quand cela arrivera.

Mais personnellement, je considère qu’AGI est le logiciel Soft. Mon raisonnement est simplement que je me soucie plus des humains que de l’informatique.

Le nombre idéal d’employés humains pour la plupart des entreprises est nul. Et ils dépensent actuellement 50 000 milliards de dollars à l’échelle mondiale pour rémunérer les travailleurs du savoir.

Ils ne se soucient pas de l’AGI Hard vs Soft. Ils veulent juste remplacer le travailleur humain pour que le travail passe d’une chose externe (majuscule “L”abor) à une chose interne (minuscule “l”abor).

Je pense que nous verrons un ou plusieurs produits commerciaux en 2026 ou 2027 faire cela.

• Ils embarquent comme un humain ordinaire
• Ils font l’orientation des nouveaux employés
• Ils suivent les instructions du manager
• Ils interagissent avec l’équipe
• Ils travaillent
• Ils expédient les résultats

Et ils coûtent une fraction du prix d’un vrai humain, tout en travaillant 160 heures par semaine au lieu de 40. Constamment mis à niveau. Jamais fatigué. Jamais malade. Ne jamais partir pour une autre entreprise toutes les quelques années.

Pour moi, c’est là le véritable risque pour l’économie et, plus important encore, pour le sens humain du sens.

Mais comme je l’ai dit, je comprends également l’argument en faveur de Hard AGI.

Tout ce que je dirais, c’est que lorsque vous discutez du sujet, assurez-vous que vous parlez tous les deux du même sujet.