Résumé des enjeux sur l'intelligence artificielle et notre temps

Soyons réalistes : alors que nous plongeons dans l’ère des « machines intelligentes », les menaces potentielles que l’IA représente pour la société et l’humanité dans son ensemble suscitent une inquiétude croissante. Je m'interroge avec une approche scientifique sur les multiples raisons pour lesquelles l'IA par sa nature et le spectre imminent de l'abrutissement intellectuel auquel elle contribue constitue une menace importante. Et je n'exagère rien.

 

L’une des principales préoccupations concernant l’IA est la dépendance croissante à l’égard de systèmes automatisés, tout comme quelqu’un qui cherche tout sur Google sans réfléchir, ou qui est incapable de se déplacer sans GPS. Alors que l’IA prend en charge des tâches traditionnellement effectuées par les humains.

Bien sûr, depuis l’invention de l’ordinateur et de la calculatrice de poche, jusqu’à Excel et les bases de données, il existe un risque que la société devienne trop dépendante de ces machines et incapable de penser de manière critique. Je prends par exemple les fact-checkers qui contrôlent le narratif, ceci est une menace pour la démocratie et la liberté d'expression.

 

De la gestion des infrastructures critiques aux processus de prise de décision dans divers domaines, les conséquences potentielles d’une panne ou d’une manipulation d’un système constituent aujourd’hui une menace tangible. Oui, j'évoque l'utilisation de drones militaires autonomes, de radars avec automatisation par algorithme, et bien sûr de voitures autonomes.

Certes, l’invention de la calculatrice de poche est géniale, le cerveau humain n'est normalement pas câblé pour les maths de précision. Les ordinateurs sont des outils géniaux, le GPS vous amène à découvrir des lieux sans vous perdre, ou vous perdre à découvrir un patelin que vous n'auriez pas visité selon la façon dont vous l'utilisez. La technologie doit rester là pour servir les humains et non l’inverse.

 

Je ne suis pas du tout syndicaliste mais pour beaucoup, l'intégration de l'IA dans le monde du travail remodèle le lieu de travail, automatise les tâches de routine et élimine les choses répétitives, cela existe à nouveau depuis la transition du papier aux ordinateurs, ces technologies dites d'IA augmentent les inquiétudes quant à un écart de richesse encore plus prononcé. Une excuse pour remplacer votre secrétaire, votre comptable, votre RH par un système centralisé. Vous imaginez un peu ou cela peut mener ?

Le vrai problème ici aussi reste le monopole des données, et donc le contrôle du lieu de travail qui suit le même principe commencé avec MS Office, jusqu'à Amazon AWS, Adobe et Google. Nous avons quelques sociétés en tant que fournisseurs et gestionnaires de votre société, rassemblant vos informations et données pour alimenter leur système, depuis plus de dix ans le big data est un organisme de contrôle dangereux. Aujourd'hui les entreprises délestent leur data à des grands groupes et s'étonnent de faire faillite.

 

Les entreprises, motivées par la vision de Klaus Schwab et Bill Gates continuent de promouvoir les processus de développement et de prise de décision autour des algorithmes d’IA propriétaires. Le public n’ayant peut-être pas une idée suffisante du fonctionnement de ces systèmes ni des biais potentiels intégrés dans leurs algorithmes. Et encore une fois, ils ne veulent pas se prendre la tête à comprendre comment ça fonctionne. C'est la le plus grand danger.

 

Nous savons déjà comment Midjourney ou Bing ( maintenant CoPilot dans cette horreur qu'est Windows ) et tous les générateurs d'images fonctionnent en récupérant des œuvres d'art existantes et sous copyright, et en les retouchant ensemble à l'aide de mots-clés comme quelqu'un qui vient de découvrir photoshop et google images...

 

J'ai joué avec StableDiffusion moi-même, je m'attendais à une IA digne de ce nom avec un rendu procédural, basé sur une logique apprise par des téraoctets de sources, ...C'est pas du tout le résultat escompté, les couleurs sont là certes, c'est beau vu de loin mais aucune structure, des détails immondes. Un œil expert peut facilement dire ce qui est généré par l’IA et ce qui ne l’est pas. Nous avons cette approche critique et c’est une bonne chose. Beaucoup de monde n’auront pas l’œil pour repérer le contenu de l’IA à des kilomètres de distance, mais il s’agit simplement de tout vérifier en détail, comme pour une photo de la presse, le diable est dans les détails pour citer je ne sais pas qui.

Mais pour combien de temps.

Dans le conflit Ukraine-Russie, on à des chaines comme BFM et FranceInfo qui ont partagé ici des images de DCS, un jeu de simulation sur PC. Les Palestiniens ont partagé l’image générée par l’IA des victimes des bombardements. Astuce : comptez les doigts.

 

Maintenant à propos de toi. Ta vie privée, tes données, ton capital puisque tes données SONT un capital. Les GAFAM (google, amazon, facebook, microsoft et apple) accumulent généralement de grandes quantités de données, ce qui constitue un élément essentiel pour la formation des modèles d'IA. La concentration de ces données entre les mains de quelques entreprises soulève des inquiétudes quant aux monopoles des données et à l’utilisation abusive potentielle des informations personnelles.

Les questions liées à la confidentialité des utilisateurs, à la sécurité des données et au potentiel de surveillance créent une dynamique de pouvoir qui nécessite une réglementation minutieuse pour éviter les abus. Devinez qui a proposé ça plusieurs fois pendant dix ans ? L'UE. Rien ne s’est passé, les gouvernements ne sont que des entreprises comme les autres. Votre congrès, votre parlement.

 

Les algorithmes qui pilotent les systèmes d’IA sont aussi impartiaux que les données sur lesquelles ils sont formés. Les entreprises privées peuvent par inadvertance intégrer leurs propres biais dans les modèles d’IA, reflétant ainsi les biais présents dans leurs ensembles de données. Cela peut aboutir à des résultats discriminatoires, renforçant les préjugés sociétaux existants (ce qui est le cas pour la modération de Facebook: c'est un algorithme). Les considérations éthiques peuvent passer au second plan par rapport aux motivations de profit, soulignant la nécessité d’une surveillance et d’une réglementation externes et neutre.

Il n’existe pas d’IA neutre, moralement, philosophiquement ou politiquement. Vous ne pouvez et ne devez faire confiance à aucun ordinateur si vous ne pouvez pas vérifier la source des données et la logique (Code source) car tout programme informatique reflète la vision de son programmeur, et de son but final, et de facto l'IA.

 

Je devrais paraphraser le petit et grand remplacement de Renaud Camus, il se passe ici quelque chose de similaire avec l'aspect intellectuel de l'information et l'approche de la façon dont nous vivons notre vie numérique. La pseudo-capacité de l’IA à automatiser les tâches et à fournir des solutions rapides et non uniformes contribue à l’abrutissement de notre société. Bien sûr, cela ferait partie du petit remplacement, mais en fin de compte, c'est le type encore plus important qui se profile ici.

 

À mesure que les individus s’habituent à des réponses et des solutions instantanées, leurs capacités de pensée critique et leur créativité diminuent. Le recours à l’IA pour la prise de décision sans une compréhension approfondie des processus sous-jacents peut conduire à une génération mal équipée pour aborder des problèmes complexes de manière indépendante et objective.

 

Aucun appareil intelligent n'a rendu quelqu'un plus intelligent, aucune IA ne rendra un véritable crétin intelligent non plus et une calculatrice n'a jamais rendu quelqu'un compétent en mathématiques. Il faut séparer l’outil de l’accessoire qui est devenu trop intrusif.

Les gens ne réfléchiront plus, ils allumeront longtemps la télé, regarderont des conneries, pleureront sur les injustices et répéteront [le slogan de la justice sociale] comme les imbéciles qu'ils sont. Même chose avec les réseaux sociaux, et maintenant les avis des gens n'existeront plus, les gens ne vous parleront plus directement, ils demanderont à leur iphone de merde d'élaborer une réponse IA pour eux. Tout comme les gens adoptent le langage d’influenceurs débiles ou d'enseignant-militantes névrosées, ils n’auront plus d’opinion et laisseront un générateur de texte réfléchir à leur place. Dites-leur quoi voter, de quoi avoir peur, comment se comporter, comment s'habiller, trouvez-leur un gender et tout ça.

Vous pensez que j'exagère ? Nous verrons quel âge prendra ce post, nous sommes le 19 janvier 2024.

 

Du point de vue d'un physicien, c'est l'entropie. Nous valorisons le moindre effort possible pour préserver notre énergie au détriment de la qualité. Nous préférons emprunter la route la plus rapide pour économiser du carburant et ne pas profiter du voyage sur une route plus longue, libre et plus lente. Les automates de l’information artificielle entrent en jeu ici – et dans un but précis, une population abrutie acceptera plus de choses limitant leur liberté.

Il suffit de regarder ce qui sort des universités: La tête pleine de citations de Marx et de slogans de justice sociale, mais incapable de changer une roue de bagnole ou de changer un néon, et la nouvelle génération qui a grandi avec un smartphone est incapable de faire fonctionner un ordinateur comme celle qui à grandi dans les années 90-2000s. Nous devons contrôler ces ordinateurs et non l’inverse, mais c'est plus simple de dédier cette tâche ingrate à Microsoft, Apple, Google et compagnie !

 

 

Sur la sécurité nationale et la sécurité de l'information. Le développement de systèmes d’IA autonomes, notamment dans les applications militaires, soulève d’importantes préoccupations en matière de sécurité.

Oui, vous allez crier « SKYNET TERMINATATOR IS COMING ! »

 

La perspective de cyberattaques basées sur l’IA, la possibilité que des systèmes d’armes autonomes prennent des décisions de vie ou de mort et la vulnérabilité des infrastructures critiques au sabotage piloté par l’IA constituent de graves menaces pour la sécurité mondiale. Un code malveillant, des données malveillantes ou simplement une information trompeuse orienteront un ordinateur vers une autre tâche. Une machine ne peut pas comprendre ni être bonne ou mauvaise, vous ne pouvez pas lui enseigner la compassion ou la logique humaine ou animale. La logique n'est pas une forme d'intelligence. Prenons par exemple un drones militaire qui va chercher une cible basée sur des critères précis, le tout basé sur des données et une logique programmée.

 

J'aimerais aussi dédier ce paragraphe à Stanislav Petrov, lieutenant du contrôle de la disuasion nucléaire qui en 1983 à fait preuve d'esprit critique face à une attaque détectée par le système informatique, satellite et radar russe. Toute information provenant des systèmes penchaient pour des tirs de missiles depuis les U.S.

Une IA aurait lancé l'attaque sans discernement.

 

Ne parlons pas non plus des systèmes de défense de type ‘DeadHand’ concu pour lancer automatiquement une riposte basé sur une somme de données et de capteurs et un algorithme comme le système Perimetr [Периметр] russe, le Royaume-Uni à également un système comparable, et en toute logique rien n'exclut que le commandement de la force de disuasion de l'OTAN ne posséderait pas un système similaire.

 

 

 

Il existe une menace en concentrant l’immense pouvoir basé sur l’agrégation de données entre les mains de quelques organisations ou gouvernements.

Récemment à Davos, des membres du WEF ont évoqué la possibilité de déléguer à AI la tâche de voter, de nommer des représentants du gouvernement ou d'édicter des lois. Imaginez le même processus laissé à la justice, à la médecine, à l'éducation. L’IA est déjà utilisée dans les médias, dans la couverture médiatique et la propagande. Rappel: la collecte de données sert surtout à ça.

 

Je ne le répète pas assez mais l'absence de transparence dans les processus décisionnels de l'IA, combinée à l'intention de celui qui programme l'IA et à un manque de responsabilité. Cette concentration du pouvoir peut avoir de profondes implications pour les démocraties et nos libertés. Cela va au-delà du cauchemar orwellien.

Ceci est un ordinateur. Ce n’est pas intelligent, il stocke, transforme et transmet des données. Ne lui faites pas confiance à moins que vous ne le contrôliez. Utilisez votre propre intelligence.

Vous êtes paranoïaque et vous avez raison. Vous avez ce droit. Ne laissez personne vous intimider parce que vous êtes un théoricien du complot lorsque vous exposez des faits ou que vous osez remettre en question ce que vous voyez.

 

Désolé pour le tl;dr, a été inspiré par le tweet et les préoccupations de Dormin, qui sont légitimes, et quand nous voyons la situation dans son ensemble et notre relation à l'information, cela devient critique, nous ne pouvons pas l'arrêter tout comme nous ne pouvons pas arrêter le big data. , j'espère juste que les gens prendront conscience de tout ça, même si vous êtes un petit nombre. Si vous lisez cet article, vous êtes la résistance.

 

- Diamond Tiara [@tiarannosaur] [@miniponka]