Först skulle kärnkraft döda oss alla.
Sedan genmanipulerade grödor.
Sedan klimatförändringar.

Nu är det AI.

Det finns flera trådar om detta där jag går igenom en del detaljer.

Några saker i korthet som är värt att känna till:

• Researchern som nu fått oändligt utrymme i media jobbade på Anthropic i drygt 3 månader.
• Anthropic och OpenAI ska börsintroduceras och har allt att tjäna på att stänga ute open source för att istället fånga marknaden genom att vara dom enda statligt godkända.
• METR som är den ”oberoende” organisationen för att granska modellera säkerhet har till stor del jobbat på Anthropic och är utsedda av VDn.

Säkerheten kring AI är extremt viktig. Inte minst att få AI att alltid hålla sig till sanningen även om sanningen är obekväm. En lögnaktig super-intelligens är mer riskabel att manipulera.

Det finns risker med AI. Precis som med allt annat. Medicin, flygplan, matproduktion.

Det bör finnas tydliga regler att förhålla sig till och gärna globala sådana. Som det gör för medicin, flygplan och mat.

Men vi fick inte säkrare medicin eller flygplan av att stoppa utvecklingen och forskningen. Dom blev säkrare av att öka forskningen.

Med kärnkraft dog utvecklingen ut. Istället användes onödigt mycket fossila bränslen med krig och klimatkris som följd. Hade vi snabbat på utvecklingen och haft tydliga regler kanske vi inte haft en klimatkris.

Att sluta utvecklas orsakar i dom flesta fall större skada än att lära sig av misstag.

#1: Stoppa utveckling känns ändå alltid som det mest orealistiska man kan försöka sälja som lösning.

Brutalt exempel: Skjutvapen, där kan man inte bara be alla länder backa och stoppa utvecklingen. De finns redan. Kunskapen finns redan. Utvecklingen kommer fortsätta oavsett om man vill det eller ej.

Att AIs utveckling måste eller kan stoppas är inte realistiskt.

Men jag håller med dig kring att man måste ha lagar och instanser som säkerställer att verktygens risker minimeras.

#2: jag gillar förslaget som bland annat, men inte enbart, elon musk la fram om att dom stora labben ska testa varandras modeller innan dom släpps.

Då testas dom av personer med djup kompetens, men som knappast låter sig köpas.

Förhoppningsvis skapas en naturlig balans i ett vara rättvis trots att det är en konkurrent, för att man vet att det är konkurrenter som ska granska ens egen modell nästa gång.

Detta tillsammans med visst gemensamt regelverk tror jag är en bra mix av byråkrati, säkerhet och utveckling.

Åtminstone är det det minst dåliga förslaget jag hört.

#3: Ha konkurrenter som testar låter ganska så optimalt: Låta de största kritikerna med faktiskt kunskap och förståelse för AI bedöma om den är mogen för allmänheten.

Många tekniska branscher där säkerhet är en viktig faktor har ju liknande system. Där utanstående firmor som inte tjänar på att godkänna produkten ska testa och säkerställa att alla säkerhets-krav uppfylls.

Det blir en poetiskt fin terrorbalans på nåt sätt. :)

För slapp: konkurrenterna hinner före
För hård: konkurrenten kommer hämnas

:)

#5: Borde skapa en bra balans egentligen. Förutsatt att nog firmor är involverade.

Jo. Å andra sidan hatar typ Elon Musk och Sam Altman varandra, så det blir en ännu roligare dynamik av det.

#7: Känner mest en rädsla att om 2 firmor bara granskar varandra (låt oss säga två påhittade) och de kommer överrens om ett avtal som gynnar båda men går emot syftet med dessa kontroller…

Därav skulle man alltid behöva antingen lotta vem som granskar eller använda sig av flera.

Ja. Så är det.

Men det finns fler. Bara i usa är OpenAI, Anthropic, SpaceX AI, Meta riktigt stora. Hälften av dom för Open Source, hälften emot.