Tankar om AI

Under årets Borderland blev det en rad samtal och diskussionstillfällen. En av de som var organiserad, hade temat AI, och den väckte flera nya tankar.

Som allting med Borderland och Burner communityt är det väldigt blandade personer, och flera av deltagarna hade varit aktiva inom något med AI länge, i vissa fall årtionde, medans andra bara var som jag, personer med intresse i ämnet.

Överlag gick diskussionen mycket kring stora saker: När kommer AI bli smartare än människan? Hur är det med moral i maskiner? Kommer superintelligent AI att döda alla människor? Överlag mycket diskussioner på saker som Ray Kurzweils eller Nick Boströms tankar och idéer. (Vill du själv förstå bakgrunden lite mer, rekommenderas denna fantastisk bra artikel på Wait but why som summerar helheten med AI och dess problem).

Några insikter

  • Ingen höll emot att AI kommer bli smartare den intelligens vi har nu. Men någon som kom upp var att det kanske är vi som blir smartare, med AI. Precis som vi redan nu är smarta med dagens telefoner. Hade du kunnat göra ett IQ test med en mobil, hade du garanterat fått högre IQ.
  • Ett problem med allt med AI var att det är privata företag som står för största insatsen, de som har mest data och de som forskar på detta tyngst. En superintelligent AI kan altså vara en AI som Facebook, Google, Spotify eller någon annan framtida internetbolag “äger”. Är detta bra, eller dåligt.
  • Överlag pratades en hel del kring just öppet vs “privat”. Ska stater reglera forskning kring AI? Hur i så fall? Går det ens att göra? Min bild är att reglering hade behövts, men är nog omöjligt att göra bra, och kan mycket väl riskera hela teknikutvecklingen om det görs någon (vad är “intelligens”, och hur skulle man definera det i en reglering?). Men jag är kluven här. En superintelligens kan väldigt tydligt vara väldigt farlig, så att inte reglera är dumt. Men att hindra den fria utvecklingen inom teknik generellt pga det vore väldigt dåligt för mänskligheten också.
  • Även innan vi har superintelligens, så kommer AI bli smartare och smartare. De kommer automatisera saker som idag är “jobb”. Hur kommer det påverka samhället? Detta är iofs en debatt som hållit på ett tag nu, och medborgarlön är något som ofta dyker upp – vilket jag tror hade varit väldigt bra, och jag har blivit mer och mer övertygat om att det hade kunnat göras mycket bra.

Överlag många intressanta, och delvis väldigt skrämmande, tankar. Men det blev tydligt att kapitalismen som den är idag, inte är en bra kombination för framtiden. För det blev rätt tydligt att AI kommer förstärka saker. Extrapolera. Och det hade högst troligen resulterat i en ännu ojämnare och polariserd värld än den vi har. Kapitalism har svårt att hantera ett mer och mer automatiserad samhälle, det krävs sociala inslagg för att det ska fungera (som tex medborgarlön). Och kapitalism ger skeva incitament för de som utvecklar AI – vilket kan ha katastrofala effekter på en AI som blir superintelligent.

Finns det lösningar?

Men vad är lösningen, om dagens kapitalism måste anpassas? Hur gör man det?

En av tankarna som kom upp var att man löser det med Vision. Att visioner inom företagande, inom politik, och inom nya produkter är en viktig del. Att man använder de kapitalistiska spelreglerna som vi har, men strävar efter mer. Efter att uppnå ett visst syfte. Personer som Elon Musk är helt klart förebilder på den fronten.
Det behövs mer, betydligt mer, sådant. Personer som står för något, och tydligt kommunicerar det utåt, och långsiktigt arbetar för det.

Det är dock inte helt säkert det räcker. Eller att det fungerar i längden. Om man strävar efter mer än vad som behövs, kommer man då inte indirekt vara ineffektivare än de som bara strävar efter maximera vinst? Är detta långsiktigt hållbart i så fall?

Dock är det inte fel att testa detta. Vad finns det att förlora – att vi har skapat mer visionära bolag, mer visionär politik eller mer visionära produkter? Så jag tror det ligger ett ansvar på oss alla, att vara mer visionära. Att göra saker inte bara för att tjäna pengar eller bygga ett bolag eller vinna ett val. Utan att använda de normer och strukturer som finns i samhället, för att åstadkomma något ännu större. Något som hjälper mänskligheten framåt.

One thought on “Tankar om AI”

Leave a Reply

Your email address will not be published. Required fields are marked *