Una historia sobre la inteligencia artificial que aprende cada vez más rápido, y no es ciencia ficción.
Una carta abierta que también adopta la forma de petición, la misiva firmada por Elon Musk (CEO de SpaceX, Tesla y Twitter) y Steve Wozniak (cofundador de Apple) ha sido publicada en el sitio web futureoflife.org. Un gran número de investigadores y otros especialistas en progreso tecnológico e inteligencia artificial se han unido a los dos citados para pedir una pausa en la investigación de la IA. Con esta carta, los firmantes quieren alertar sobre los recientes avances de la inteligencia artificial y las desastrosas consecuencias que pueden derivarse de la competencia cada vez más feroz en este campo. La inteligencia artificial generativa sólo ha mostrado una ínfima parte de su potencial y la llegada de programas tan potentes como ChatGPT está empujando a la mayoría de los rivales de OpenAI a acelerar sus trabajos.
Los firmantes de la carta señalan, sin embargo, que esta competencia desenfrenada no sólo tiene ventajas. En concreto, señalan los problemas de seguridad. En efecto, a medida que los trabajos en este ámbito se vuelven cada vez más delicados, se plantea la cuestión del secreto que rodea a la investigación. Sin información sobre los trabajos que realizan unos u otros, la sociedad en su conjunto no puede protegerse de posibles peligros, derivas o catástrofes. Citados por Clubic, los firmantes se preguntan: "¿Debemos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes? ¿Debemos desarrollar mentes no humanas que un día nos superen en número, astucia, actualidad y reemplazo? ¿Debemos arriesgarnos a perder el control de nuestra civilización?
El objetivo de esta carta abierta es, por tanto, pedir una especie de "pausa". Los firmantes desean una pausa de al menos seis meses en el desarrollo de las inteligencias artificiales más avanzadas. Este periodo de tiempo debería permitir evaluar los peligros, determinar si los progresos realizados en este ámbito son realmente positivos y si los riesgos son controlables. El propio Sam Altman -jefe de la empresa OpenAI- admitió estar "un poco asustado" por los progresos realizados y los peligros para la humanidad si la inteligencia artificial de ChatGPT se utilizara para "desinformación o ciberataques a gran escala ".
Sin embargo, Sam Altman no ha querido firmar la carta abierta. En este sentido, se le une uno de los nombres más famosos del mundo de la tecnología, Bill Gates, cofundador de Microsoft y máximo responsable de la empresa estadounidense durante muchos años. Gates es desde hace tiempo uno de los más fervientes partidarios de los avances en inteligencia artificial y está más que entusiasmado con los recientes avances en este campo. Contrariamente a lo que se dice en esta carta abierta, Bill Gates considera que la pausa de al menos seis meses mencionada no es en absoluto una solución a los problemas que plantea el auge de la inteligencia artificial generativa. En una entrevista concedida a Reuters, explica que no cree que "pedir a ningún grupo en particular que haga una pausa vaya a resolver los problemas ", antes de añadir: "Realmente no entiendo quiénes creen que se detendrían, o si todos los países del mundo estarían de acuerdo, o por qué lo estarían "
Con ello, Gates señala un problema de viabilidad de la pausa. ¿Decidida por quién y cómo? ¿Aplicada a todos los países del mundo? ¿A todas las empresas privadas? El fundador de Microsoft reconoce los problemas que plantea el desarrollo de la inteligencia artificial y comprende las preocupaciones que puede generar. Sin embargo, cree que hay "enormes beneficios en estas cosas " y habla de "identificar las áreas complicadas " en lugar de tomarse este descanso de seis meses. Bill Gates cree incluso que la inteligencia artificial es nada menos que la mayor innovación informática de los últimos cuarenta años, una innovación que debería ser capaz de ayudar a encontrar soluciones a todos los problemas de la humanidad. En este último punto, no podemos evitar ver a Bill Gates como un seguidor del solucionismo, pero tenemos que admitir que es difícil imaginar a los gobiernos chino, indio o ruso tomándose un descanso de las cabezas pensantes con sede en Estados Unidos o Europa.
Non, cet extraterrestre ne viendra pas d'une planète lointaine - il sera né ici même sur Terre, éclos dans un laboratoire de recherche d'une grande université ou d'une grande entreprise. Je fais référence à la première intelligence artificielle générale (IAG) qui atteint (ou dépasse) la cognition au niveau humain.
Au moment où j'écris ces mots, des milliards sont dépensés pour donner vie à cet extraterrestre, car il serait considéré comme l'une des plus grandes réalisations technologiques de l'histoire de l'humanité. Mais contrairement à nos autres inventions, celle-ci aura son propre esprit, littéralement. Et s'il se comporte comme toutes les autres espèces intelligentes que nous connaissons, il fera passer ses propres intérêts en premier, travaillant à maximiser ses chances de survie.
L'IA à notre image
Doit-on craindre une intelligence supérieure mue par ses propres objectifs, valeurs et intérêts ? Beaucoup de gens rejettent cette question, croyant que nous allons construire des systèmes d'IA à notre image, en veillant à ce qu'ils pensent, ressentent et se comportent comme nous. Il est extrêmement peu probable que ce soit le cas.
Les esprits artificiels ne seront pas créés en écrivant des logiciels avec des règles soigneusement élaborées qui les font penser comme nous. Au lieu de cela, les ingénieurs alimentent des ensembles de données massifs dans des algorithmes simples qui ajustent automatiquement leurs propres paramètres, apportant des millions et des millions de minuscules changements à leur structure jusqu'à ce qu'une intelligence émerge - une intelligence avec des rouages internes qui sont bien trop complexes pour que nous puissions les comprendre.
Et non – lui fournir des données sur les humains ne le fera pas penser comme les humains. C'est une idée fausse courante - la fausse croyance qu'en entraînant une IA sur des données qui décrivent les comportements humains, nous nous assurerons qu'elle finira par penser, ressentir et agir comme nous le faisons. Ça ne sera pas.
Au lieu de cela, nous allons construire ces créatures IA pour connaître les humains, ne pas être humain. Et oui, ils nous connaîtront de fond en comble, capables de parler nos langues et d'interpréter nos gestes, de lire nos expressions faciales et de prédire nos actions. Ils comprendront comment nous prenons des décisions, bonnes et mauvaises, logiques et illogiques. Après tout, nous aurons passé des décennies à enseigner aux systèmes d'IA comment nous, les humains, nous comportons dans presque toutes les situations.
Mais profondément différent
Mais encore, leurs esprits ne seront rien comme les nôtres. Pour nous, ils nous sembleront omniscients, reliés à des capteurs distants de toutes sortes, en tous lieux, Arrival Mind, je décris AGI comme "ayant un milliard d'yeux et d'oreilles", car ses capacités de perception pourraient facilement s'étendre sur le globe. Nous, les humains, ne pouvons pas imaginer ce que cela ferait de percevoir notre monde d'une manière aussi vaste et holistique, et pourtant nous présumons d'une manière ou d'une autre qu'un esprit comme celui-ci partagera notre morale, nos valeurs et nos sensibilités. Ça ne sera pas.
Les esprits artificiels seront profondément différents de tous les cerveaux biologiques que nous connaissons sur Terre - de leur structure et fonctionnalité de base à leur physiologie et psychologie globales. Bien sûr, nous créerons des corps ressemblant à des humains pour que ces esprits extraterrestres habitent, mais ils ne seront guère plus que des façades robotiques pour nous sentir à l'aise en leur présence.
En fait, nous, les humains, travaillerons très dur pour que ces extraterrestres nous ressemblent et parlent comme nous, sourient et rient même comme nous, mais au fond de nous, ils ne seront en rien comme nous. Très probablement, leurs cerveaux vivront dans le cloud (entièrement ou partiellement) connectés à des caractéristiques et des fonctions à la fois à l'intérieur et à l'extérieur des formes humanoïdes que nous les personnifions.
Pourtant, la façade fonctionnera – nous n'aurons pas peur de ces extraterrestres – pas comme nous craindrions des créatures se précipitant vers nous dans un mystérieux vaisseau spatial. Nous pouvons même ressentir un sentiment de parenté , les considérant comme notre propre création, une manifestation de notre propre ingéniosité. Mais si nous mettons ces sentiments de côté, nous commençons à réaliser qu'une intelligence extraterrestre née ici est bien plus dangereuse que celles qui pourraient venir de loin.
Le danger intérieur
Après tout, un esprit extraterrestre construit ici saura tout de nous dès son arrivée, ayant été conçu pour comprendre les humains de fond en comble – optimisé pour ressentir nos émotions et anticiper nos actions, prédire nos sentiments, influencer nos croyances et influencer nos opinions. . Si les créatures qui foncent vers nous dans d'élégants vaisseaux spatiaux argentés avaient une connaissance aussi approfondie de nos comportements et de nos tendances, nous serions terrifiés.
L'IA peut déjà vaincre nos meilleurs joueurs dans les jeux les plus difficiles sur Terre. Mais vraiment, ces systèmes ne maîtrisent pas seulement les jeux d'échecs, de poker et de go, ils maîtrisent le jeu des humains , apprenant à prévoir avec précision nos actions et réactions, anticipant nos erreurs et exploitant nos faiblesses. Des chercheurs du monde entier développent déjà des systèmes d'IA pour nous surpasser, nous sur-négocier et nous sur-manœuvrer.
Pouvons-nous faire quelque chose pour nous protéger ?
Nous ne pouvons certainement pas empêcher l'IA de devenir plus puissante, car aucune innovation n'a jamais été contenue. Et tandis que certains s'efforcent de mettre en place des mesures de protection, nous ne pouvons pas supposer que cela suffira à éliminer la menace. En fait, un sondage réalisé par Pew Research indique que peu de professionnels pensent que l'industrie mettra en œuvre des pratiques « éthiques d'IA » significatives d'ici 2030.
Alors, comment pouvons-nous nous préparer à l'arrivée ?
La meilleure première étape consiste à réaliser que l'IAG se produira dans les décennies à venir et qu'il ne s'agira pas d'une version numérique de l'intelligence humaine. Ce sera une intelligence extraterrestre aussi étrangère et dangereuse que si elle venait d'une planète lointaine.
Apporter de l'urgence à l'éthique de l'intelligence artificielle
Si nous posons le problème de cette façon, nous pourrions l'aborder de toute urgence, en poussant à réglementer les systèmes d'IA qui surveillent et manipulent le public, détectent nos émotions et anticipent nos comportements. De telles technologies peuvent ne pas sembler être une menace existentielle aujourd'hui, car elles sont principalement développées pour optimiser l'efficacité de la publicité, et non pour faciliter la domination du monde . Mais cela ne diminue pas le danger - les technologies d'IA conçues pour analyser les sentiments humains et influencer nos croyances peuvent facilement être utilisées contre nous comme armes de persuasion massive.
Nous devrions également être plus prudents lors de l'automatisation des décisions humaines. S'il est indéniable que l'IA peut aider à une prise de décision efficace, nous devons toujours garder les humains au courant. Cela signifie utiliser l'IA pour améliorer l'intelligence humaine plutôt que de travailler pour la remplacer.
Que nous nous préparions ou non, des esprits extraterrestres se dirigent vers nous et ils pourraient facilement devenir nos rivaux, se disputant le même créneau au sommet de la chaîne alimentaire intellectuelle. Et bien qu'il y ait un effort sérieux dans la communauté de l'IA pour faire pression pour des technologies sûres , il y a aussi un manque d'urgence. C'est parce que trop d'entre nous croient à tort qu'une IA sensible créée par l'humanité sera en quelque sorte une branche de l'arbre humain, comme un descendant numérique qui partage un noyau très humain.
C'est un vœu pieux. Il est plus probable qu'un véritable AGI sera profondément différent de nous à presque tous les égards. Oui, il sera remarquablement doué pour prétendre être humain, mais sous une façade conviviale, chacun sera un esprit rival qui pense, ressent et agit comme aucune créature que nous ayons jamais rencontrée sur Terre. C'est maintenant qu'il faut se préparer.
Louis Rosenberg , PhD, est un pionnier de la technologie dans les domaines de la réalité virtuelle, de la réalité augmentée et de l'intelligence artificielle. Il est connu pour avoir développé le premier système de réalité augmentée pour l'US Air Force en 1992, pour avoir fondé la première société de réalité virtuelle Immersion Corp (Nasdaq IMMR) en 1993 et fondé la première société AR Outland Research en 2004. Il est actuellement fondateur et PDG d' Unanimous AI .
Réf :
https://www.theguardian.com/technology/2023/feb/17/i-want-to-destroy-whatever-i-want-bings-ai-chatbot-unsettles-us-reporter
https://www .washingtonpost.com/technology/2023/02/16/microsoft-bing-ai-chat-interview/
https://twitter.com/MarioNawfal/status/1628873898413400070
https://www.nytimes.com/2023/02/ 16/technology/bing-chatbot-microsoft-chatgpt.html
https://twitter.com/search?q=microsoft%20robot%20chatgpt&src=typed_query
https://twitter.com/uBF2fV1cVQxRjQo/status/1628658302153531394
C'est ainsi que la mise à l'échelle est importante . IPV6 complété par Le vrai bitcoin alias Bitcoin Satoshi Vision c'est à dire avec son protocole verrouillé alias Bitcoin Satoshi Vision aka BSV , peut être le cloisonnement d'hyper données synthétiques. Interrupteur. Turing peut s'adapter à l'incrémentation pour limiter les risques. Environnement contrôlé par la preuve de travail. C'est très loin d'être une blague. Le temps humain est compté. Il reste trop peu de temps. Les efforts doivent être réels et coordonnés. C'est pourquoi bitcoin_protocol . Preuve_d'existence.
2027
https://coingeek.com/how-to-create-artificial-life-inside-bitcoin/
https://www.youtube.com/playlist?list=PLTpDsXEwfAQqCZuR92h1qFv_d7Pnm2gFc
Non, cet extraterrestre ne viendra pas d'une planète lointaine - il sera né ici même sur Terre, éclos dans un laboratoire de recherche d'une grande université ou d'une grande entreprise. Je fais référence à la première intelligence artificielle générale (IAG) qui atteint (ou dépasse) la cognition au niveau humain.
Au moment où j'écris ces mots, des milliards sont dépensés pour donner vie à cet extraterrestre, car il serait considéré comme l'une des plus grandes réalisations technologiques de l'histoire de l'humanité. Mais contrairement à nos autres inventions, celle-ci aura son propre esprit, littéralement. Et s'il se comporte comme toutes les autres espèces intelligentes que nous connaissons, il fera passer ses propres intérêts en premier, travaillant à maximiser ses chances de survie.
L'IA à notre image
Doit-on craindre une intelligence supérieure mue par ses propres objectifs, valeurs et intérêts ? Beaucoup de gens rejettent cette question, croyant que nous allons construire des systèmes d'IA à notre image, en veillant à ce qu'ils pensent, ressentent et se comportent comme nous. Il est extrêmement peu probable que ce soit le cas.
Les esprits artificiels ne seront pas créés en écrivant des logiciels avec des règles soigneusement élaborées qui les font penser comme nous. Au lieu de cela, les ingénieurs alimentent des ensembles de données massifs dans des algorithmes simples qui ajustent automatiquement leurs propres paramètres, apportant des millions et des millions de minuscules changements à leur structure jusqu'à ce qu'une intelligence émerge - une intelligence avec des rouages internes qui sont bien trop complexes pour que nous puissions les comprendre.
Et non – lui fournir des données sur les humains ne le fera pas penser comme les humains. C'est une idée fausse courante - la fausse croyance qu'en entraînant une IA sur des données qui décrivent les comportements humains, nous nous assurerons qu'elle finira par penser, ressentir et agir comme nous le faisons. Ça ne sera pas.
Au lieu de cela, nous allons construire ces créatures IA pour connaître les humains, ne pas être humain. Et oui, ils nous connaîtront de fond en comble, capables de parler nos langues et d'interpréter nos gestes, de lire nos expressions faciales et de prédire nos actions. Ils comprendront comment nous prenons des décisions, bonnes et mauvaises, logiques et illogiques. Après tout, nous aurons passé des décennies à enseigner aux systèmes d'IA comment nous, les humains, nous comportons dans presque toutes les situations.
Mais profondément différent
Mais encore, leurs esprits ne seront rien comme les nôtres. Pour nous, ils nous sembleront omniscients, reliés à des capteurs distants de toutes sortes, en tous lieux, Arrival Mind, je décris AGI comme "ayant un milliard d'yeux et d'oreilles", car ses capacités de perception pourraient facilement s'étendre sur le globe. Nous, les humains, ne pouvons pas imaginer ce que cela ferait de percevoir notre monde d'une manière aussi vaste et holistique, et pourtant nous présumons d'une manière ou d'une autre qu'un esprit comme celui-ci partagera notre morale, nos valeurs et nos sensibilités. Ça ne sera pas.
Les esprits artificiels seront profondément différents de tous les cerveaux biologiques que nous connaissons sur Terre - de leur structure et fonctionnalité de base à leur physiologie et psychologie globales. Bien sûr, nous créerons des corps ressemblant à des humains pour que ces esprits extraterrestres habitent, mais ils ne seront guère plus que des façades robotiques pour nous sentir à l'aise en leur présence.
En fait, nous, les humains, travaillerons très dur pour que ces extraterrestres nous ressemblent et parlent comme nous, sourient et rient même comme nous, mais au fond de nous, ils ne seront en rien comme nous. Très probablement, leurs cerveaux vivront dans le cloud (entièrement ou partiellement) connectés à des caractéristiques et des fonctions à la fois à l'intérieur et à l'extérieur des formes humanoïdes que nous les personnifions.
Pourtant, la façade fonctionnera – nous n'aurons pas peur de ces extraterrestres – pas comme nous craindrions des créatures se précipitant vers nous dans un mystérieux vaisseau spatial. Nous pouvons même ressentir un sentiment de parenté , les considérant comme notre propre création, une manifestation de notre propre ingéniosité. Mais si nous mettons ces sentiments de côté, nous commençons à réaliser qu'une intelligence extraterrestre née ici est bien plus dangereuse que celles qui pourraient venir de loin.
Le danger intérieur
Après tout, un esprit extraterrestre construit ici saura tout de nous dès son arrivée, ayant été conçu pour comprendre les humains de fond en comble – optimisé pour ressentir nos émotions et anticiper nos actions, prédire nos sentiments, influencer nos croyances et influencer nos opinions. . Si les créatures qui foncent vers nous dans d'élégants vaisseaux spatiaux argentés avaient une connaissance aussi approfondie de nos comportements et de nos tendances, nous serions terrifiés.
L'IA peut déjà vaincre nos meilleurs joueurs dans les jeux les plus difficiles sur Terre. Mais vraiment, ces systèmes ne maîtrisent pas seulement les jeux d'échecs, de poker et de go, ils maîtrisent le jeu des humains , apprenant à prévoir avec précision nos actions et réactions, anticipant nos erreurs et exploitant nos faiblesses. Des chercheurs du monde entier développent déjà des systèmes d'IA pour nous surpasser, nous sur-négocier et nous sur-manœuvrer.
Pouvons-nous faire quelque chose pour nous protéger ?
Nous ne pouvons certainement pas empêcher l'IA de devenir plus puissante, car aucune innovation n'a jamais été contenue. Et tandis que certains s'efforcent de mettre en place des mesures de protection, nous ne pouvons pas supposer que cela suffira à éliminer la menace. En fait, un sondage réalisé par Pew Research indique que peu de professionnels pensent que l'industrie mettra en œuvre des pratiques « éthiques d'IA » significatives d'ici 2030.
Alors, comment pouvons-nous nous préparer à l'arrivée ?
La meilleure première étape consiste à réaliser que l'IAG se produira dans les décennies à venir et qu'il ne s'agira pas d'une version numérique de l'intelligence humaine. Ce sera une intelligence extraterrestre aussi étrangère et dangereuse que si elle venait d'une planète lointaine.
Apporter de l'urgence à l'éthique de l'intelligence artificielle
Si nous posons le problème de cette façon, nous pourrions l'aborder de toute urgence, en poussant à réglementer les systèmes d'IA qui surveillent et manipulent le public, détectent nos émotions et anticipent nos comportements. De telles technologies peuvent ne pas sembler être une menace existentielle aujourd'hui, car elles sont principalement développées pour optimiser l'efficacité de la publicité, et non pour faciliter la domination du monde . Mais cela ne diminue pas le danger - les technologies d'IA conçues pour analyser les sentiments humains et influencer nos croyances peuvent facilement être utilisées contre nous comme armes de persuasion massive.
Nous devrions également être plus prudents lors de l'automatisation des décisions humaines. S'il est indéniable que l'IA peut aider à une prise de décision efficace, nous devons toujours garder les humains au courant. Cela signifie utiliser l'IA pour améliorer l'intelligence humaine plutôt que de travailler pour la remplacer.
Que nous nous préparions ou non, des esprits extraterrestres se dirigent vers nous et ils pourraient facilement devenir nos rivaux, se disputant le même créneau au sommet de la chaîne alimentaire intellectuelle. Et bien qu'il y ait un effort sérieux dans la communauté de l'IA pour faire pression pour des technologies sûres , il y a aussi un manque d'urgence. C'est parce que trop d'entre nous croient à tort qu'une IA sensible créée par l'humanité sera en quelque sorte une branche de l'arbre humain, comme un descendant numérique qui partage un noyau très humain.
C'est un vœu pieux. Il est plus probable qu'un véritable AGI sera profondément différent de nous à presque tous les égards. Oui, il sera remarquablement doué pour prétendre être humain, mais sous une façade conviviale, chacun sera un esprit rival qui pense, ressent et agit comme aucune créature que nous ayons jamais rencontrée sur Terre. C'est maintenant qu'il faut se préparer.
Louis Rosenberg , PhD, est un pionnier de la technologie dans les domaines de la réalité virtuelle, de la réalité augmentée et de l'intelligence artificielle. Il est connu pour avoir développé le premier système de réalité augmentée pour l'US Air Force en 1992, pour avoir fondé la première société de réalité virtuelle Immersion Corp (Nasdaq IMMR) en 1993 et fondé la première société AR Outland Research en 2004. Il est actuellement fondateur et PDG d' Unanimous AI .
Réf :
https://www.theguardian.com/technology/2023/feb/17/i-want-to-destroy-whatever-i-want-bings-ai-chatbot-unsettles-us-reporter
https://www .washingtonpost.com/technology/2023/02/16/microsoft-bing-ai-chat-interview/
https://twitter.com/MarioNawfal/status/1628873898413400070
https://www.nytimes.com/2023/02/ 16/technology/bing-chatbot-microsoft-chatgpt.html
https://twitter.com/search?q=microsoft%20robot%20chatgpt&src=typed_query
https://twitter.com/uBF2fV1cVQxRjQo/status/1628658302153531394
C'est ainsi que la mise à l'échelle est importante . IPV6 complété par Le vrai bitcoin alias Bitcoin Satoshi Vision c'est à dire avec son protocole verrouillé alias Bitcoin Satoshi Vision aka BSV , peut être le cloisonnement d'hyper données synthétiques. Interrupteur. Turing peut s'adapter à l'incrémentation pour limiter les risques. Environnement contrôlé par la preuve de travail. C'est très loin d'être une blague. Le temps humain est compté. Il reste trop peu de temps. Les efforts doivent être réels et coordonnés. C'est pourquoi bitcoin_protocol . Preuve_d'existence.
2027
https://coingeek.com/how-to-create-artificial-life-inside-bitcoin/
https://www.youtube.com/playlist?list=PLTpDsXEwfAQqCZuR92h1qFv_d7Pnm2gFc