AI: krigen, der er ved at bryde ud, bliver ikke, som vi forventer...

Billedsproget, som på en eller anden måde påtvinges af størstedelen af ​​science fiction-fortællinger, præsenterer os for en verden, hvor menneskeheden før eller siden bliver nødt til at håndtereKunstig intelligens. Konflikten vil eksplodere, så snart AI bliver opmærksom på sig selv og beslutter sig for at udrydde os eller finde en måde at kontrollere os på.

Hvis dette perspektiv er realistisk (og der ville være meget at diskutere om emnet), forekommer den krig, der venter os, ret fjern i tid, givet den absolutte mangel på enhver bevidsthed i de nuværende generative systemer. Så nu kan vi sove roligt. Eller ikke?

"En forordning om kunstig intelligens til militære formål er påtrængende nødvendig"
Russisk-ukrainsk krig: Gør kunstig intelligens en forskel?
Konspiration, falske nyheder og fremmedhad: farlig digital blanding

De reelle farer ved nuværende kunstige intelligenser

Der er stadig megen forvirring om emnet Kunstig intelligens. Forvirring, som, det er smertefuldt at sige, er i god kunst drevet af andre journalister, der er begejstrede for at skrive om det, men ofte ikke er så forberedt på at forstå dets reelle natur, potentiale og risici.

En sådan forvirring opmuntres også af vores naturlige tilbøjelighed til at projicere os selv på enhver ekstern enhed, det være sig en anden person, et dyr eller, som i dette tilfælde, et softwareobjekt.

Derfor vores vanskeligheder med at forstå, hvordan tilsyneladende intelligent adfærd overhovedet ikke forudsætter autentisk bevidsthed.

Således opmuntret af alt for mange "klik-bait"-overskrifter i generalistaviser bekymrer vi os om problemer, der stadig er langt væk i tiden, men vi ser eller undervurderer ikke dem, der allerede i dag optager os direkte.

Som altid der teknologi det kan anvendes på en måde, der hjælper mennesker, men også på en måde, der skader dem.

På et socialt plan kan kunstig intelligens for eksempel bruges til at optimere processer og tjenester, såsom trafik i byer eller bureaukratiske tjenester og sundhedsydelser.

Eller det kan hjælpe lærere med at forberede personlige lektioner eller test baseret på hver enkelt elevs egenskaber og særegenheder.

På et personligt plan kan det hjælpe hver enkelt af os til bedre at organisere vores arbejde og vores tid, og administrere de mest kedelige eller gentagne dele for os.

Eller det kan hjælpe os med bedre at udtrykke vores kreativitet ved at generere billeder, musik eller videoer efter vores instruktioner.

Veludnyttet kunstig intelligens bør supplere, ikke erstatte, vores aktiviteter.

Men da de nuværende generative systemer, der er i stand til at producere tekst, billeder og videoer, er baseret på enorme databaser primært hentet fra internettet, afspejler de ofte vores "partiskhed" og frem for alt arbejder de på statistiske gennemsnit.

Efterhånden som mere og mere indhold genereres af Kunstige intelligenser selv, er risikoen, at der skabes gennemsnit af gennemsnit af gennemsnit, med en stadig mere håndgribelig udjævning nedad.

Men det er problemer, der kan håndteres og løses: Den største risiko, som jeg ikke har talt om endnu, er den menneskelige faktor.

Fotogalleri, tegnefilmene, der overdriver internettets frygt
Innovation og journalistik: en ofte vanskelig sameksistens
Kunstig intelligens er (også) en revolution inden for fotoredigering

Kraften i AI og den kommende krigskonfrontation

Hidtil har jeg beskæftiget mig med problemer, som allerede er kendte, og som trods alt kan løses uden for meget angst. Det gode (eller dårlige) kommer nu.

Lad os forestille os enKunstig intelligens veltrænet, i stand til realistisk at gengive enhvers stemme. Sådanne systemer findes allerede.

Lad os kombinere det med en anden kunstig intelligens, der er i stand til at skabe troværdige videoer med rigtige mennesker i hovedrollen. Disse systemer findes også og er i nogle tilfælde allerede blevet brugt.

Det er det, vi kan skabe."dyb falsk" (fuldstændig falske, men fuldstændig troværdige videoer) med ekstrem enkelhed, til skade for politiske modstandere, fjendelande eller mere simpelt mennesker, vi ikke kan lide.

Så vi opretter tusindvis (nej, titusinder) af chatbots, der foregiver at være rigtige mennesker, tilmeld dig mest populære sociale netværk og de begynder at dele videoer skabt for at bagtale, ødelægge modstandernes karrierer eller for at skabe så meget kaos som muligt i fjendelandet, måske i en valgperiode.

Således er sandhedens krig født, og vi risikerer alle at tabe den nu.

Og glem alt om det seneste amerikanske valg, som ifølge nogle analytikere blev fordrejet af propaganda "podet" udefra (læs: Den Russiske Føderation).

Sammenlignet med potentialet i de nuværende systemer og dem, der kan opnås i en mellemlang fremtid, var ethvert forsøg på at forvrænge nyhederne fra november 2020 en barneleg.

Sådan ruller første verdenskrigs trommer af AI
Fra pizzini til sociale netværk: sådan breder mafiaen sig på nettet
Slaget ved Morat bliver det største digitale objekt i verden

Hallucinationer brugt som ukonventionelle våben

Le Kunstige intelligenser Generative mennesker har en iboende fejl i deres funktionsprincipper: de lider af hallucinationer. De seneste versioner, såsom ChatGPT-4, forsøger at begrænse og rette op på denne tendens, med mere eller mindre succes.

Dette "hallucinatoriske potentiale" kunne også udnyttes til deres fordel af ikke-velmenende brugere til at sprede tilsyneladende sandfærdige nyheder, der bygger på den mere eller mindre eksplicitte overbevisning hos visse politiske grupper, hvilket forstærker deres "partiskhed".

Alle med en "ildkraft" uhyre overlegen i forhold til den, der var tilgængelig indtil for få år siden.

En velorganiseret gruppe (måske hjulpet under bordet af en kompatibel regering) ville udnytte de allerede kendte sårbarheder hos et godt flertal af computere på internettet til optimerede angreb og overtag kontrol over millioner af enheder.

Det ville gøre dette ved at bruge dem igen som servere til at skabe forfalskninger social konto ikke let at skelne fra de autentiske.

De falske konti ville derefter sprede teser og nyheder, der var planlagt for at styrke de førnævnte gruppers tro.

Og den eneste måde at bekæmpe sådanne angreb på er... at brugeKunstig intelligens.

Kunstig intelligens og konflikter i en samling af upublicerede essays
Actors on Strike: Defending Authenticity and Creativity Against AI
Video, det schweizisk-burgundiske sammenstød er digitaliseret og bevaret

Krisen og mulighederne ved en sådan udvikling

Hvem vil vinde den fremtidige krig?

Le Kunstige intelligenser i tjeneste for sociale sabotører, eller dem, der er betroet til at forsvare os?
Ingen kan sige i øjeblikket.

Vi kan være sikre på én ting: kun et velforberedt land (eller endnu bedre, en føderation af lande), med en befolkning udstyret med kritiske tænkningsevner og viden om digitale midler, vil være i stand til at klare disse udfordringer.

Det er nødvendigt, at den ikke oplever kunstig intelligens som et mirakel eller en trussel, men lærer at forstå dens fordele, potentiale og problemer, med en fremsynet ledelsesklasse og reel opmærksomhed på etisk innovation og teknologi.

Vi skal starte herfra hurtigst muligt...

Hvis kunstig intelligens er vores børns bedste ven
The Newspeak of Facebook (eller "kunstig demens")
Fotogalleri, bordene af Louis Brauns 1000 kvadratmeter store værk