théologie et intelligence artificielle

ChatGPT : de quoi s’agit-il ? Quelles en sont les possibilités et les dangers ?

10 février 2023

Une nouvelle année, une nouvelle peur d’être remplacé par des robots basés sur l’intelligence artificielle. Le produit développé par OpenAI, une société dans laquelle Elon Musk et Sam Altman, entre autres, sont investisseurs, s’appelle ChatGPT et a été rendu public en novembre 2022. Au cours de ses quelques mois d’existence, le programme a fait fureur dans tous les secteurs, de la technologie à l’éducation. Nombre de ses utilisateurs prédisent qu’il pourrait changer la donne pour l’humanité comme l’a fait la révolution industrielle en son temps.

En substance, ChatGPT est un modèle qui a été entraîné sur un grand ensemble de données pour comprendre et générer des expressions naturelles. Cette technologie a la capacité de répondre à des questions, de rédiger des textes complets et d’effectuer des tâches de traduction automatique.

La peur du chômage
L’une des principales caractéristiques de ChatGPT est sa capacité à générer un texte cohérent et naturel, ce qui le rend utile pour une variété d’applications, telles que les assistants virtuels, les chatbots et la génération automatique de contenu. La demande croissante de ces outils dans le monde numérique devrait avoir un impact majeur sur le marché du travail.

Tout d’abord, ChatGPT devrait réduire le besoin d’employés réalisant des tâches répétitives, comme répondre aux questions fréquemment posées. Cela pourrait conduire à l’automatisation de nombreux travaux, ce qui pourrait avoir un impact négatif sur l’emploi dans certains domaines, comme les call centers. Il pourrait également devenir un outil pour des secteurs tels que le journalisme, le marketing ou la création de contenus. Avec une seule demande, ChatGPT peut épargner beaucoup de travail aux rédacteurs, car il est capable de générer des textes adaptés à différentes campagnes ou situations.

Il pourrait également avoir un fort impact sur l’éducation. Il est capable d’écrire des rédactions, de faire des comparaisons, de répondre à des questions complexes et d’émettre des hypothèses sur la base des connaissances qu’il possède. Lorsqu’on lui demande par exemple d’écrire un essai comparatif sur la compréhension du concept de jugement chez Hannah Arendt et Thomas d’Aquin, il répond d’une manière élémentaire mais correcte.

Ainsi, deux mois seulement après son lancement, des outils de détection de texte générés par intelligence artificielle ont déjà vu le jour — dans le style de l’outil Turnitin, qui détecte les textes plagiés. Il a également été testé pour être utilisé dans d’autres disciplines, comme la programmation. Il est capable de fournir des exemples de code pour une application qui analyse les relevés bancaires. Dans ce cas, ChatGPT fournit un exemple en Flask, mais sa réponse varie si vous demandez la même chose dans une autre langue.

Les utilisations dans les différentes disciplines sont innombrables. Il est capable, par exemple, de créer des régimes pour des personnes aux caractéristiques différentes et en fonction de différents paramètres. On peut par exemple lui demander de créer un régime pour une personne présentant une résistance à l’insuline, mais la réponse du chat peut être améliorée en ajoutant des paramètres : où vit la personne, quels ingrédients utiliser, ce qu’elle n’aime pas manger, etc.

Quant à sa connaissance d’autres programmes, l’extension ChatGPT pour Google Sheets est devenue virale ces derniers jours, avec laquelle vous pouvez utiliser la puissance de l’intelligence artificielle directement à partir des tableaux Sheets : vous pouvez écrire des formules, catégoriser des informations, corriger, traduire, parmi beaucoup d’autres choses, directement dans les tableaux.

De nouveaux horizons pour le travail
Malgré ces utilisations qui pourraient avoir un impact négatif sur l’emploi, ChatGPT devrait créer de nouveaux emplois dans des domaines tels que le développement de logiciels, l’intelligence artificielle et l’analyse de données. Les professionnels qui se spécialisent dans ces domaines auront davantage de possibilités d’emploi à mesure que la technologie se popularise et est utilisée dans un plus grand nombre d’industries.

Ce dont nous sommes sûrs, c’est que les technologies de pointe, qu’elles proviennent de ChatGPT ou d’autres applications d’intelligence artificielle, ont le potentiel de transformer le marché du travail. Leur impact sera négatif dans certains secteurs qui bénéficieront des possibilités de l’automatisation. Toutefois, en réduisant la nécessité d’effectuer des tâches répétitives, les employés peuvent se concentrer sur des tâches plus utiles et plus créatives, ce qui pourrait avoir un impact positif sur l’économie en général.

Intelligence artificielle, vraiment ?
Quand on demande par exemple au programme d’écrire un article semblable à celui-ci, la réponse du programme est précise et correcte, et peut servir de base ou de modèle aux rédacteurs. La saisie correcte d’indications, le choix des mots et la langue dans laquelle la requête est formulée sont autant d’éléments qui influent sur la qualité de ce que fournit le logiciel, qui utilise les données disponibles sur Internet pour répondre, sous forme humaine, à ce qui lui est demandé.

Cela met en évidence la différence entre l’intelligence réelle et l’intelligence artificielle. En réalité, l’intelligence artificielle est une méthode d’inférence statistique, qui prend les données qu’elle reçoit d’Internet et émet une réponse probable aux questions et demandes qui lui sont adressées. Sa puissance vient du fait que les machines dans lesquelles elle tourne sont de plus en plus rapides et capables d’apprendre de nouvelles informations. Même l’écart entre les capacités des différentes versions d’un même outil est frappant. Le modèle original GPT (Generative Pre-training Transformer) compte 175 millions de paramètres, tandis que GPT-2 en compte 1,5 milliard, et GPT-3 (le modèle actuel), 175 milliards de paramètres. Malgré sa grande capacité à collecter des données, il n’existe pas d’intelligence artificielle polyvalente capable d’observer la réalité et de tirer des conclusions sur quelque chose de nouveau à partir de données qui ne lui ont pas été fournies auparavant.

C’est pourquoi on voit que l’intelligence humaine continue d’être particulièrement capable de faire face au changement et à l’incertitude, capacités que l’intelligence artificielle ne possède pas. En fait, selon certains experts, ce n’est pas la première fois que nous connaissons une fièvre de l’intelligence artificielle, qui est souvent suivie d’un désintérêt, lorsque les limites de la technologie deviennent apparentes. Il semble donc que, du moins pour l’instant, l’intelligence humaine ait une grande marge de manœuvre pour contribuer à la prise de décision et à la recherche de solutions nouvelles dans des contextes inédits.

Intelligence ou imitation
L’intelligence artificielle a plus d’une fois fait naître l’espoir d’une capacité consciente de raisonnement ou de connaissance. Certains, comme Blake Lemoine, ingénieur logiciel chez Google, sont allés jusqu’à affirmer que ses produits ont une conscience propre. Cependant, jusqu’à présent et d’après ce que nous savons de la technologie, cela semble être davantage un reflet de la conscience, une imitation des capacités humaines.

C’est parce que les machines répondent avec un langage humain qu’elles sont confondues avec une conscience. Cependant, la machine ne comprend pas ce qu’elle dit, et c’est là la différence essentielle. Ce n’est pas la même chose de connaît une donnée que de savoir qu’on la connaît. Bien qu’elle puisse simuler une compréhension et une réponse humaines, la machine n’a pas la capacité de penser ou de raisonner par elle-même.

D’ailleurs, la machine elle-même le reconnaît. Lorsque ChatGPT est interrogé sur sa propre conscience, il répond : Non, en tant qu’IA, je n’ai pas de conscience. La conscience fait référence à la capacité d’avoir des expériences et des sentiments intérieurs, et je ne suis qu’un programme informatique conçu pour traiter et générer du texte. Ma capacité se limite à répondre à des questions et à générer du texte à partir d’une entrée donnée, mais je n’ai pas la capacité d’avoir des expériences intérieures ou de ressentir.

Utilisation responsable
Enfin, pour donner une image complète de ce qu’impliquera l’utilisation généralisée de produits tels que ChatGPT dans notre société, il est intéressant de se poser certaines questions éthiques. Tout d’abord, la question de la déformation que ces technologies peuvent avoir doit être prise en compte lors de l’utilisation de leurs résultats. Ces outils apprennent à partir d’un ensemble de données spécifiques qui leur ont été fournies, mais des données généralement tirées de livres et d’Internet, qui peuvent contenir des préjugés et des idées préconçues que le modèle va apprendre et imiter. Il sera donc intéressant de voir comment les entreprises qui développent ces technologies s’assurent que l’ensemble des données utilisées est représentatif et ne perpétue pas les stéréotypes. Un exemple de ce problème est le cas de Tay, le robot Twitter créé par Microsoft, qui a été retiré 16 heures après son lancement pour avoir tweeté des messages discriminatoires et haineux.

D’autre part, la transparence doit être exigée par les utilisateurs de manière à ce que le fonctionnement des outils puisse être compris par eux et que des informations claires soient fournies sur la manière dont le modèle est utilisé. Cela permettra d’éviter les conflits liés à l’utilisation non désirée des données ou des informations que les utilisateurs fournissent au logiciel ou à l’inégalité d’accès à la technologie. Il est également important de rappeler que, comme tout outil, il n’est pas soumis à des devoirs et que, par conséquent, les personnes qui l’utilisent doivent être responsables de l’utilisation du contenu généré par ChatGPT.

Carmen Camey fait partie de l’école de rédacteurs de l’agence Aceprensa  

ChatGPT - expectatives et illusions : ICI

De quoi ChatGPT est-il le nom ?


Par Jean Staune - Publié le 14 février 2023

ChatGPT : impossible de passer à côté de cet étrange sigle ces dernières semaines. Ce nouveau logiciel de conversation en langage naturel, mis au point par la société américaine OpenAI, a fait l’objet de milliers d’articles à travers le monde. Tout a été dit sur ses biais « politiquement corrects » (il refuse par exemple de composer un poème à la gloire de Donald Trump ou des « Blancs », mais accepte de le faire pour Joe Biden ou pour les « Noirs ») ; sur les dangers qu’il représente dans le domaine de l’éducation, étant capable de produire des dissertations indiscernables de celles écrites par des êtres humains ; et sur le risque, pour les journalistes et autres rédacteurs, de perdre leur emploi.

Mais ChatGPT pose des questions beaucoup plus profondes, tant sur notre propre nature que sur le devenir de notre civilisation. Le logiciel s’est frotté au fameux « test de Turing » qui consiste à discuter à l’aveugle avec une machine et un être humain : si, au bout d’une demi-heure, vous n’êtes pas en mesure de dire qui est l’être humain, la machine aura passé le test avec succès. Si ChatGPT est à ce jour présenté comme étant le logiciel le plus proche de réussir ce test, quelques ajustements restent nécessaires : le logiciel a produit d’excellents articles sur la « nécessité pour le gouvernement américain d’empêcher toute violation de la vitesse de la lumière » ou « toute modification de la constante de gravitation » !

D’autres robots conversationnels ont déjà existé avant lui, comme Sophia, de la société Hanson Robotics, qui avait symboliquement reçu un passeport du gouvernement saoudien après sa démonstration lors d’une conférence dans ce pays. La différence avec ChatGPT, c’est que celui-ci a une base de données si vaste qu’il peut faire des rédactions précises et nuancées sur de très nombreux sujets : historiques, politiques, géographiques ou scientifiques.

ChatGPT nous oblige à nous poser la question de la nature de notre conscience. Celle-ci ne pourra-t-elle qu’être simulée par un système comme ChatGPT ou, à force de « s’améliorer », des algorithmes de ce type pourront-ils éprouver un jour ce que nous éprouvons ? Selon Marc Rameaux, expert en ce domaine (cf. notre sélection), les Intelligences Artificielles telles que ChatGPT n’ont rien à voir avec les nôtres. Elles sont beaucoup plus performantes que nous dans un milieu « fermé », là où les règles sont bien définies, comme aux échecs ou au jeu de go. Mais dans la vie réelle, elles ne savent pas « sortir du cadre » dans lequel la question est posée et répondre, par exemple, que la vitesse de la lumière ne dépend pas du gouvernement américain.

Tous ne sont pas d’accord. De grands spécialistes de l’Intelligence Artificielle, comme Yann Le Cun ou Luc Julia, créateur du logiciel Siri pour Apple, partagent cette opinion, mais dans le camp d’en face figure le fameux Ray Kurzweil à qui Google a donné un budget illimité pour s’approcher de la « singularité » (moment où l’on aura des ordinateurs équivalents aux êtres humains en tous points).

Cette capacité à « sortir du cadre », c’est-à-dire à remettre en cause les prémisses par lesquelles on demande d’effectuer telle ou telle tâche, différencie radicalement la conscience humaine de celle des machines, selon Marc Rameaux. Mais l’arrivée de machines capables de tenir des discours quasi indiscernables de ceux d’un être humain et, qui plus est, dans un corps humanoïde imitant parfaitement le nôtre, doit être envisagée à une échelle de moins d’une vingtaine d’années. Comme l’a montré la série de science-fiction danoise Real Human diffusée sur Arte, la société humaine s’en trouverait extrêmement troublée.

David Hanson, le créateur de Sophia, prévoit que dans quelques années, les robots feront partie de notre vie quotidienne, et qu’on aura du mal à les distinguer des êtres humains. Ils garderont les enfants, feront les courses, discuteront avec nous et, bien sûr, il y aura des robots sexuels. David Levy, pionnier de la robotique, prédit même qu’avant 2050, le Massachussetts (l’État le plus libéral aux États-Unis) autorisera le mariage entre humains et robots !

Après le mariage entre personnes de couleurs différentes, puis du même sexe, la prochaine étape consisterait-elle donc à unir l’homme et la machine ? Dénonçant les risques d’un tel mouvement, le psychologue Serge Tisseron nous avertit : après une première étape d’« humanisation » des robots qui, de fait, en amènerait certains à préférer des partenaires « robots » (plus prévisibles) aux partenaires humains, on assisterait ensuite à une « robotisation » des humains.

Il y a là un potentiel de déstabilisation considérable de notre civilisation. Quand bien même les successeurs de ChatGPT n’arriveraient jamais à atteindre la nature même de la conscience de l’être humain, leur simple existence en tant qu’imitation parfaite de celle-ci constitue un risque à bien des égards, dont bien peu de responsables politiques, juridiques ou religieux semblent avoir pris la mesure aujourd’hui.

ICI