AI-gudfaderns varning
Falsk information, manipulerat innehåll och på sikt mördarrobotar. Doktor Geoffrey Hinton, mannen som ofta kallas AI:s gudfar, sa nyligen upp sig från Google för att öppet varna för de hot han ser med AI. Hans agerande ställer frågan om huruvida tekniken är en välsignelse eller ett hot.
– Det är svårt att se hur man kan hindra elaka typer från att använda den för elaka syften, sa Hinton nyligen i en intervju med tidningen The New York Times.
I artikeln framgår att han delvis ångrar sitt livsverk.
– Jag tröstar mig med den vanliga ursäkten. Om inte jag hade gjort det (utvecklat tekniken) hade det varit någon annan.
Som kärnvapen
Han om någon bör veta. Den 75-årige brittiskkanadensiska psykologen och datavetaren har lagt år på att utveckla neurala nätverk, den teknik som gör att AI-system kan lära sig saker på ett sätt som påminner om den mänskliga hjärnans.
Hinton började forska om AI redan på 1970-talet, då han var doktorand vid Edinburghs universitet. Han har medverkat i över 200 vetenskapliga artiklar, gjort banbrytande genombrott och bland annat fått Turingpriset, som brukar beskrivas som datavetenskapens Nobelpris.
Hans avhopp från sökjätten Google skapade stora rubriker, liksom Hintons utsaga att mänskligheten kan komma att utraderas om teknikutvecklingen får löpa fritt. Han har bland annat jämfört AI-hotet med kärnvapen.
I samtalet med The New York Times nyligen sa Hinton att den första och omedelbara faran är att internet översvämmas av falska bilder, texter och annat manipulerat innehåll.
– Människor kommer inte längre veta vad som är sant.
Därefter väntar en form av intelligensens kapplöpning mellan människa och maskin.
De senaste åren har prognosen för när AI blir smartare än människan legat långt fram, kanske 30–50 år. Men det kommer ske mycket snabbare, varnar Hinton.
Själv har han länge fruktat att självstyrande mördarrobotar blir verklighet, något han säger är fullt möjligt.
Regler och lagar?
Liksom andra forskare ser Geoffrey Hinton en mängd fördelar och möjligheter med AI. Men han efterlyser en snabb reglering av tekniken. Om det inte händer kommer Microsoft, Google, Open AI och andra aktörer tvingas in i ett globalt och i värsta fall destruktivt race om AI-kunskap och innovationer.
När Geoffrey Hinton får frågan om hur han kan utveckla teknik som kan vara direkt farlig hänvisar han till Robert Oppenheimer, som ledde USA:s arbete med att bygga den första atombomben. Oppenheimer lär ha sagt: ”När du ser något som är tekniskt aptitretande så gör du det bara.”
Publicerat 26.06.2023
