this post was submitted on 22 Feb 2024
4 points (100.0% liked)

Technologie - 🤖

535 readers
20 users here now

Ici concerne le champs de domaine large de la technologie : actualités sur l'informatique, partage de programme informatique et de code, montrer vos projets Arduino, ect.

Mégafil ici

founded 1 year ago
MODERATORS
[email protected]
[email protected]
[email protected]
[email protected]
[email protected]
4
L'humanité sera tuée par l'IA (www.geo.fr)
submitted 8 months ago by [email protected] to c/[email protected]
15 comments fedilink hide all child comments
 

Franchement je veux votre avis ! Je vois bcp bcp d'articles de ce style passer. Mais je me demande quand même : à quel point ces articles et surtout ces universitaires ont raison

Parce que franchement pour l'instant OK c'est rigolo vite fait mais franchement ça à encore vla les défauts l'IA. Donc je me demande à quel point ces gens sont dans la spéculation et dans un "fantasme" de fin du monde typique d'un film de SF ?

all 20 comments
sorted by: hot top controversial new old
[–] [email protected] 2 points 8 months ago* (last edited 8 months ago) (1 children)

à quel point ces articles et surtout ces universitaires ont raison

On parle de prédication du futur, personne ne sait si ils ont raison.
Mais là on parle de quelqu'un qui parle de lâcher des missiles sur des datacenter s'ils entraînent des IA.

L'auteur passe de "l'IA va dépasser l'intelligence de l'humain" à "l'IA a une volonté propre et veut éliminer l'humain", le tout dit par un expert qui pense avoir inventé le concept d'aligment d'IA, concept inventé avant qu'il soit né.

Le problème c'est qu'on est pas tout seul ici, et les Chinois ils vont pas arrêter la recherche sur l'IA aux dernières nouvelles.

Le truc dans tout ça, c'est qu'a cause de ce genre de discours très racoleur, on parle pas ou peu (3 lignes a la fin de l'article) des vrai problèmed, inévitable:

la mise au chômage d’un grand nombre de travailleurs, plus de désinformation à des fins politiques ou encore des comportements crapuleux, par le biais de la création de "deepfakes".

La technologies est déjà là, et peut remplacer des centaines de milliers d'emplois (ie: standardiste téléphonique), il manque juste que ça soit appliqué par des ingénieurs compétent. Il faudrait se bouger le cul maintenant pour éviter plus de misère (mais le gouvernement actuel en a rien a foutre de la misère).

[–] [email protected] 1 points 8 months ago

Oui la mise au chômage de personnes qui ont rien demandé je suis d'accord c'est réel et un soucis.

[–] [email protected] 2 points 8 months ago* (last edited 8 months ago) (1 children)

Y a la très bonne vidéo de Mr Phi sur le chatbot de Bing qui aborde un peu ce sujet. Il fait remarquer que quand on met un prompt qui dit : "tu es une IA qui réponds aux questions de l'utilisateur", et bien on va souvent vite retrouver des réponses d'IA "défaillantes" parce qu'elles se comportent quasiment toujours comme ça dans les fictions écrites par les humains qui alimentent les LLM. Ça serait amusant si l'IA exterminait les humains précisément parce que dans l'imaginaire des humains les IA exterminent les humains.

Sinon personellement j'y crois absolument pas. Peut être que dans 5 ans on verra émerger des nouvelles formes de vie intelligente. Mais pourquoi cela devrait automatiquement mener à une guerre ?

[–] [email protected] 3 points 8 months ago

Pascal Robert et moi étions revenus sur la fameuse "lettre pour une pause" signée par des milliers d'experts autoproclamés de l'IA :

https://theconversation.com/presenter-lia-comme-une-evidence-cest-empecher-de-reflechir-le-numerique-211766

Le fait de jouer à se faire peur est un marqueur ancien des discours autour de l'informatique (l'article en présente 6 autres). Consciemment ou non, ceux qui agitent ces peurs fantasmées cherchent à nous persuader de la puissance de la technique. Comme ils se présentent en experts, c'est une manière pour eux d'asseoir leur pouvoir. Derrière ce discours trompeur, le "progrès" peut se poursuivre sans s’embarrasser de débat public sur les choix techniques et sur leur mise en œuvre.

Je parle sciemment de "technique" et pas de "technologie". Car la technologie recouvre l'étude des outils et des techniques, et donc l'ensemble des connaissances à leur sujet. Or les chantres de "l'innovation technologique" se bornent à la connaissance technique pure (c'est ce qu'ils appellent "progrès"), en omettant les contextes sociaux, politiques, écologiques et économiques avec lesquels elle interagit.

L'IA, ce ne sont pas que des machines et des logiciels. C'est aussi toute une infrastructure de datacenters, de câblages, de production d'énergie... Et derrière, ce sont des mâles blancs privilégiés qui développent les techniques, avec d'autres cols blancs qui les font tourner. Mais surtout une armada de travailleurs du clics qui annotent les données pour quelques $ la journée. Et bien sûr toutes celles et ceux qui produisent ces données et qui n'ont pas voix au chapitre quant à l'utilisation qui en est faite.

Ce qui pourrait être un grand projet d'intelligence collective (mettre en commun l'intelligence de chacune et chacun pour réaliser des tâches impossibles à l'échelle individuelle) est une vulgaire entreprise d'enrichissement privé avec des conséquences bien réelles sur l'équilibre de nos sociétés.