Er menneskeheten ved veis ende allerede?

English version:

Anthropic Fears Extinction. I Fear AI-Faked House Photos

Anthropic researcher put the odds of AI wiping out humanity at 10% within a decade. Meanwhile, a Norwegian property agency AI-generated an entire street that doesn’t exist — and I realised the thing that gets us won’t be robots. It’ll be everything we’ve stopped bothering to think about.

KludderSebastian Parry-Jones Øyrehagen

Denne uken gikk KI-forskere fra Anthropic ut med en advarsel. Kunstig intelligens kan komme til å utrydde menneskeheten, sa en av dem som nylig forlot selskapet. Jacob Coxon har jobbet i både OpenAI og Claude. Han mener begge selskapene er uforsvarlige i jakten på superintelligens. Evan Hubinger er en annen av forskerne i Anthropic. Han repostet X-tråden til Coxon med en dyster spådom:

Vi tror virkelig at KI kan utrydde menneskeheten! Personlig tror jeg det er over ti prosents sjanse for at det skjer innen ti år. - Evan Hubinger på X

Etter at saken ble rullet ut i nærsagt alle internasjonale medier, sendte Anthropic en kort uttalelse til The Guardian:

Vi har alltid vært åpne om at KI vil gi både enorme fordeler og risikoer uten sidestykke. For å håndtere disse risikoene fortsetter vi å bygge modeller med noen av bransjens strengeste sikkerhetstiltak. - Anthropic til The Guardian

Vi kan jo spekulere i hvorvidt sikkerhetstiltakene Anthropic følger er tilstrekkelig dersom utfallet er slutten på menneskeheten. All annen teknologi ville blitt stengt ned det var en sjans for å ende i masseutslettelse. Dermed må vel “bransjens strengeste sikkerhetstiltak” være å skru av KI-kranen?

Samtidig som dødsprofetien sprer seg, er det andre som kikker skeptisk mot Anthropic. Og de seg gjerne i to leire:

Den ene siden hevder Anthropic bevisst sprer katastrofescenario for å styrke oppfatningen av kunstig intelligens virkelig er teknologi av guddommelig kapasiteter. Et sånt narrativ kan være veldig beleilig med en potensiell børsnotering allerede i løpet av oktober. Det er en logikk jeg ikke helt forstår; at investorer med glede bruker opp pengene sine på teknologi som kanskje tar livene våres.

Den andre siden hevder at Anthropic bruker dette narrativet for å få større kontroll på regulatoriske endringer. Ved å krisemaksimere effekten av KI, er hypotesen at reguleringer og rådgivninger vil bli så innskrenkende, omfattende og dyre at kun selskap som Anthropic og OpenAI har råd til å etterfølge dem. 

Here’s Why Anthropic Is Pushing States to Regulate AI Faster

The company endorsed landmark AI transparency laws in California and New York last year, but its head of US state and local policy says they may already be outdated.

WIREDMaxwell Zeff

David Sacks er President Donald Trump's teknologirådgiver. Han er en av dem som mener Anthropic prøver å fange nye KI-aktører i regulatorisk fluetape for å ha markedet for seg selv.

Men alt dette virker som en helt annen verden. Her hjemme i Norge har vi våre egne KI-problemer. 

Hva er det eiendomsmeglerne driver med?

Det har vært en utvikling jeg har skult bort på i over et år nå. Samtidig har jeg priset meg lykkelig over å ikke være på boligjakta. For samtidig som KI-forskere har et kappløp mot The end of humanity, har eiendomsmeglere funnet ut at det ikke er nok med fiskelinse og ultravidvinkel når de skal pynte en leilighet til salg. Nå er det nemlig i gang med å KI-generere hager som ser helt annerledes ut, interiør som ikke eksisterer og gater som ikke er ekte.

Denne uken kom det ferskeste eksempelet på eiendomsmeglere i KI-psykose. Boligmarkedet i Oslo er ikke det heteste om dagen. Etter mange gode år der boligene selger seg selv har meglerne måtte gjøre noe de ikke er vant til: De er nødt til å markedsføre boligene. Anthropic og OpenAI advarer om kraften som ligger i KI-modellene deres. Og jeg skjønner godt at menneskeheten henger i en tynn tråd - hvertfall dersom Nordvik på St.Hanshaugen får viljen sin. 

På bildet har kjempeungdom har inntatt Stovner og Tante Ulrikkes Vei. Men meglerkontoret har ikke gitt seg der. Her har gata fått selskap av enda ei gate!

– Dette er noe fotografen har gjort. Bildet er redigert ved hjelp av kunstig intelligens, sier eiendomsmegler og partner Haleem Wahid i Nordvik St. Hanshaugen til E24.

Fotografens feil eller ei. Når et meglerhonorar ligger på godt over 100 000 kroner, må det minste vi kan forvente være at megleren går gjennom bildene av eiendommen de selv tar betalt for å selge. Meglerkontoret kommer ikke godt ut av blemmen.

Men jeg mener det er en alvorlig undertone her. Når et meglerkontor KI-genererer inn fiktive gater og bussholdeplasser, jukser de med grunnlaget folk har for å gjøre den aller største investeringen. Bildet var heller ikke merket som KI-generert. Fotografen mener selv at bildet kun er redigert - ikke generert.

I april skrev Dagens Næringsliv om meglere som KI-genererte bilder tilpasset ulike årstider. Gresset blir grønt, og plantene blomstrer på balkongen. Men spørsmål dukker opp, for eksempel: Gjenspeiler det KI-genererte bildet korrekte sol- og lysforhold?

Ingenting av dette er gjort i ond hensikt. Men KI-generering er en snarvei hjernen vår elsker, og jo mer tid du kan spare, dess lavere blir den kritiske tenkningen. Men det er ikke det eneste som ødelegges: Kreativ tenkning, hukommelse og oppmerksomhetsspennet blir dårligere av overdreven bruk av KI, viser en BBC-artikkel. 

‘Think outside the bots’: How to stop AI from turning your brain to mush

GPS ruined our sense of direction. Search engines weaken our memory. AI, scientists warn, could do the same to everything from creativity to critical thinking.

BBCThomas Germain

Artikkelen trekker paralleller til Google-effekten. Forskning viser at vi husker mindre av det informasjonen vi søker om på nett når vi googler, fordi det krever så lite innsats. Hjernen vår blir rett og slett svakere av å sette bort oppgaver.

Vi kan le av meglere som får Stovner til å se ut som Jonathan Swift's Lilliput. Vi kan irritere oss grønne over det familieeide syltetøyselskapet Lerum som - til tross for å mane til viktigheten av å støtte virksomheten deres - ikke har noe betenkeligheter med å KI-generere design for Festsaften sin.

Kan hende Anthropic-forskerne har rett: Menneskeheten er truet av kunstig intelligens. Men det blir ikke armerte roboter, eller KI-generte virus som tar livet av oss. Det kan fort være vår egen kognitive svekkelse, i en verden der vi ikke lenger leser salgsoppgaver - for det kan KI gjøre. En verden der vi ikke gidder å trykke på lenken Google gir oss - vi kan jo bare lese KI-sammendraget.

Dermed ender vi opp på samme vis, hele gjengen: Fantasiløse og uten evne til konsentrasjon. Da har vi mistet to av elementene som har fått menneskeheten dit vi er i dag. 

Hit, men ikke lenger.