{"path":"relationships/kristian_ronn_2026-08-13.md","content":"# Kristian Rönn — underlag inför samtalet om Deliberus\n\n*2026-08-13. Fredrik träffade honom på Borderland sommaren 2026 och nämnde då att de borde prata om LawZero, Bengios Scientist AI, kinesiska SciencePedia och Deliberus. Fredriks bedömning: extremt upptagen, bryr sig djupt om AI-krisen, behöver övertygas om Deliberus värde **pedagogiskt**, men förstår snabbt när man väl har honom framför sig.*\n\n---\n\n## 1. Vem han är nu\n\n**Medgrundare och vd för Lucid Computing**, San Francisco Bay Area, sedan omkring januari 2025. Lucid bygger teknik som **spårar var exportkontrollerade AI-chip befinner sig och hur de används**, åt regeringar. De handleder på Frontier AI Security Residency. Kontakt: `kristian@lucidcomputing.ai`.\n\nDessförinnan **vd och medgrundare för Normative** 2013–2024, koldioxidbokföringen som var med och formade EU:s och Storbritanniens rapporteringsregler. Han representerade Sverige vid FN:s klimatkonferens.\n\nKarriären började som **Project Officer vid Future of Humanity Institute, Oxford**. Samma institution som Jan Kulveit på ACS Research kom från.\n\n**Boken:** *The Darwinian Trap* (2024), bestsäljare, på svenska som *Darwins demoner* via Fri Tanke 2025.\n\n## 2. Hans tes, med hans egna ord\n\nEn **darwinistisk demon** definierar han som *\"a selection pressure for an agent to behave in a way that is bad for others\"*. Boken handlar om hur felriktade incitament och kortsiktighet driver system mot katastrof utan att någon vill det.\n\nPå Spencer Greenbergs podd *Clearer Thinking* (avsnitt 279) formulerade han sin egen utväg:\n\n> *\"I think fundamentally we would need to change our approach to artificial intelligence, where instead of building these general intelligences that are brilliant in all domains, we build tools that are brilliant in specific domains.\"*\n\n**Det är den viktigaste meningen i hela underlaget.** Han förespråkar smala, verifierbara verktyg framför generella agenter. Deliberus är ett smalt verktyg. Det avgör inte, det agerar inte, det gör en enda sak: gör en oenighets struktur läsbar.\n\n*(Sidoanteckning: Rönn har alltså varit gäst hos Spencer Greenberg, som är Fredriks obesvarade varma ingång sedan maj. Samma kluster.)*\n\n## 3. De tre projekten han ville prata om, och vad de faktiskt är\n\n### LawZero och Scientist AI (Bengio, Montreal)\n\nIdeell organisation, avknoppad från Mila, grundad 2024. Bengio är medordförande och vetenskaplig chef; vd är Sam Ramadori. Ungefär 40 anställda, sikte på 100 inom ett år. Finansiärer: Gates Foundation, Silicon Valley Community Foundation, Schmidt Sciences, Open Philanthropy. Devis: *\"Protecting human joy and endeavour.\"*\n\n**Nytt sedan 2 juli 2026:** artikeln *Safety from Honesty in a Disinterested AI Predictor* (arXiv 2606.29657), Bengio med Oliver Richardson, Tomáš Gavenčiak, Michael Cohen med flera. Den lägger fram ett formellt säkerhetsargument.\n\nTvå bärande mekanismer:\n\n**Kontextualisering** — träningsdatan transformeras så att fakta skiljs från påståenden om fakta. Deras eget exempel: *\"Newton har ett äpple\"* mot *\"Newton sade 'jag har ett äpple' år 1666\"*. Modellen lär sig **förklara** mänsklig text i stället för att **imitera** den, och absorberar därför inte människors mål och slagsidor som om de vore etablerade fakta.\n\n**Konsekvensinvarians** — träningen belönar aldrig vad en prediktion leder till i världen, bara hypotesernas förklaringskraft. Därmed finns ingen återkopplingsslinga som skulle lära systemet att manipulera.\n\nArkitekturen är **en generator som hålls ansvarig av en neutral estimator**, alltså den klassiska uppdelningen mellan kraftfull men obetrodd bevisare och begränsad men betrodd verifierare.\n\n**Och den avgörande avgränsningen, i deras egna ord:** *\"Scientific theories aspire to describe what is, as opposed to prescribe what ought to be. At LawZero, we take this idea as a design principle.\"*\n\n### SciencePedia (DP Technology, Peking, plus Kinesiska vetenskapsakademien)\n\nChefsforskare **Chen Kun** vid Institutet för teoretisk fysik. Artikeln heter *Inverse Knowledge Search over Verifiable Reasoning* (arXiv 2510.26854).\n\nDeras diagnos, ordagrant: *\"Our current scientific sources, from textbooks to Wikipedia, is radically compressed. It prioritizes conclusions but omits the reasoning chains that produce them.\"* De kallar det saknade lagret **kunskapens mörka materia**.\n\nMetoden: en **Sokrates-agent** genererar omkring tre miljoner förstaprincip-frågor över ~200 kurser, flera oberoende lösarmodeller producerar långa tankekedjor som filtreras genom korsmodell-konsensus, en **Brainstorm-sökmotor** gör omvänd kunskapssökning, och en **Platon-syntetiserare** berättar kedjorna till artiklar. Ungefär 200 000 finkorniga uppslag, numera 420 000 begrepp i Bohriums produktversion.\n\n**Deras egen avgränsning:** systemet *\"largely omits human-centric information\"*. Alltså ren STEM, inget mänskligt.\n\n## 4. ⭐ Den pedagogiska bryggan\n\nDetta är kärnan, och den behöver bara tre meningar.\n\n**Alla tre projekten gör samma rörelse: de dekomprimerar resonemang som annars är osynligt.** SciencePedia dekomprimerar vetenskapens härledningskedjor. Scientist AI dekomprimerar skillnaden mellan vad som är sant och vad någon påstått. Deliberus dekomprimerar mänskliga anspråk till premisser, evidens, kritiska frågor och de världsbildslinser som viktar premisserna olika.\n\n**Men två av dem utesluter uttryckligen samma halva.** Bengio uppnår säkerhet genom att vägra det normativa: beskriva vad som är, aldrig föreskriva vad som bör vara. SciencePedia utesluter det mänskliga och håller sig till STEM.\n\n**Det som blir kvar i hålet är exakt där varje darwinistisk demon bor.** Multipolära fällor är inte faktauuppfattningar som går att lösa med sannare fakta. De är konflikter om vad som väger tyngst. Deliberus är kontextualisering tillämpad på det normativa — den halva de andra två medvetet lämnar.\n\n### Den mening som landar hos just honom\n\n**Lucid gör chipflödet läsbart så att stater kan samordna. Deliberus gör oenigheten läsbar så att människor kan samordna. Samma drag, olika lager.**\n\nAtt fly en darwinistisk fälla kräver samordning. Samordning kräver att parterna kan lokalisera vad de faktiskt är oense om. På civilisationsnivå kan ingen det idag. Deliberus är infrastruktur för förutsättningen, inte för lösningen.\n\nOch det är ett smalt verktyg, precis den sorts verktyg han själv efterlyste i podden. Det har inga mål, det agerar inte, det har med Bengios term ingen konsekvens att vara invariant mot.\n\n## 4b. ⚠ Det faktiska kontaktläget (läst ur Beepers lokala index 2026-08-13)\n\nDetta rättar antagandena i § 5 nedan. **Konversationen ligger på WhatsApp, inte Messenger, och det finns ingen mejlkorrespondens alls** (Gmail-sökningen ger bara nyhetsbrev som nämner honom).\n\n**Relationen är ungefär tio år gammal.** Rönn själv, augusti 2023: *\"10 år är nästan lika länge som vi har känt varandra.\"* De träffades på Borderland 2023, planerade en AW, tonen är genomgående varm med hjärtan från hans sida.\n\n**Men kanalen har dålig träffbild de senaste två åren:**\n\n- **2024-09:** han delade boken via ett LessWrong-inlägg och bad Fredrik om en strong upvote. Aktiv kontakt, initierad av honom.\n- **2025-06-10:** Fredrik föreslog en catch-up. Svar: *\"För busy för en catch-up 🥺. Kanske en annan gång.\"* Han är alltså **verbatim dokumenterat överbelastad**, inte bara antagligen.\n- **2025-06-20:** Fredrik berömde hans avsnitt av The Trajectory och frågade vad han jobbar på. Svar: en länk till lucidcomputing.ai. Inget mer.\n- **⚠ 2026-04-07:** Fredrik skrev och bad om ett samtal **och nämnde deliberus.com uttryckligen**. **Inget svar. Fyra månaders tystnad.**\n- **Sommaren 2026:** de träffades på Borderland och pratade, enligt Fredrik.\n\n**Slutsatsen som ändrar allt:** Deliberus har redan nämnts för honom i skrift, och det gav noll. Det som fungerade var att stå framför honom. Fredriks egen läsning — *\"han förstår snabbt när man väl har honom framför sig\"* — är alltså inte en gissning utan den enda hypotes som har stöd i materialet.\n\n**Följd för strategin:** ett välformulerat WhatsApp-meddelande har svag prognos här, hur bra det än är. Det som har en chans är antingen ett konkret tidsförslag som kräver ett ja eller nej, eller nästa fysiska tillfälle. Skriv kort, föreslå en exakt tid, och acceptera att svarsfrekvensen är låg utan att läsa in något personligt i det.\n\n*(Chatten har dessutom försvinnande meddelanden med 90 dagars timer, så äldre innehåll raderas löpande.)*\n\n## 5. Hur man närmar sig honom\n\n**Formen är ett intellektuellt fynd, inte en förfrågan.** Han är extremt upptagen. Det som förtjänar hans tid är att någon läst alla tre och sett konvergensen han själv anade när han nämnde dem i samma andetag på Borderland.\n\n**Öppna med kontextualiseringen.** Det är den skarpaste enskilda observationen: LawZero:s mekanism för att skilja *X är sant* från *någon sade X* är samma operation som Deliberus utför på mänskliga anspråk. Den ena för träningsdata, den andra för överläggning. Det är konkret, verifierbart och tar tio sekunder att förstå.\n\n**Låt hans egen tes bära argumentet.** Inte \"Deliberus är viktigt\", utan \"din utväg ur fällan kräver samordning, samordning kräver lokaliserbara oenigheter, och det finns ingen infrastruktur för det\".\n\n**Be om något litet och specifikt.** Inte ett samtal om Deliberus. Hellre en konkret fråga han kan svara på kort, eller ett erbjudande om att skicka en sida. En upptagen vd säger ja till en sida och nej till ett möte.\n\n**Vad som INTE ska göras:** ingen pitch, ingen demo som första steg, ingen förfrågan om finansiering eller introduktioner. Fredriks egen bedömning är att han förstår snabbt när han väl är närvarande — problemet är att bli värd närvaron, inte att förklara.\n\n## 5b. ⭐ Kroken: invändningen och konvergensfyndet (2026-08-13)\n\n*Fredriks förstahandsläsning efter Borderland-samtalet: han är inte ointresserad utan **upptagen och disciplinerad**, de pratade kort men intensivt, och han är **i grunden öppen för Deliberus idéer**. Det är alltså ett schemaläggningsproblem, inte ett övertygandeproblem. Underlaget nedan är därför utformat för att göra ett **ja till en tid** lätt, inte för att argumentera.*\n\n### Invändningen mot hans egen bok — den starkaste kroken\n\nEn författare kan inte låta bli att svara på en genomtänkt invändning mot sin egen tes. Och detta är en äkta invändning som Fredrik faktiskt bär, inte ett retoriskt grepp.\n\n**Invändningens kärna: darwinistiska demoner opererar också på argumentnivån, och den nivån saknar infrastruktur.**\n\nRönns urvalstryck väljer det som sprider sig. I det memetiska lagret sprider sig det som *övertygar*, inte det som är sant eller välresonerat. Selektionen verkar alltså på **argumenten själva**. Varje lösning som inte ändrar argumentens fitnesslandskap lämnar demonen intakt på det lager som avgör allt annat, eftersom det är där besluten om alla övriga lager fattas.\n\n**Följdinvändningen om samordning:** hans utväg går via samordning, och Lucid löser den ena halvan av samordningsproblemet, alltså verifikationen. Men verifiering visar bara om någon *följt* en överenskommelse. Den producerar ingen överenskommelse om *vad* som ska följas. Parter som inte kan lokalisera vad de faktiskt är oense om kan inte samordna sig, hur god verifikationen än är. **Fällan är delvis ett epistemiskt läsbarhetsproblem, och den halvan har ingen infrastruktur alls.**\n\n**Varför det inte är ett angrepp:** invändningen godtar hela hans ram och pekar på en ofullständighet i botemedlet, med hans egna begrepp. Han efterlyste själv smala domänspecifika verktyg framför generella agenter. Invändningen är att det verktyget saknas i den enda domän som genererar demonerna, alltså mänskligt kollektivt resonerande, där vi i stället överlämnat lagret till de mest generella och mest agentiska system vi har.\n\n### Konvergensfyndet — samtalets innehåll, inte kroken\n\nSpara detta till samtalet. Det är för långt för ett meddelande och för bra för att brännas i förbifarten.\n\nLawZero:s **kontextualisering** skiljer *X är sant* från *någon sade X*, genom att attribuera anspråk till källor så att modellen förklarar mänsklig text i stället för att imitera den. Deliberus utför samma operation på mänskliga anspråk: dekomponerar dem i premisser, evidens, kritiska frågor och de världsbildslinser som viktar premisserna olika. **Den ena för träningsdata, den andra för överläggning.**\n\nMen Bengio uppnår sin säkerhet genom att uttryckligen vägra det normativa, och SciencePedia utesluter uttryckligen det mänskliga. Hålet som blir kvar är precis där multipolära fällor bor, eftersom de inte är faktauoenigheter som fler sanna fakta löser, utan konflikter om vad som väger tyngst.\n\n### Utkast till meddelandet\n\n*WhatsApp, under sextio ord, avgränsat, med färdiga tider. Skickas inte utan Fredriks uttryckliga godkännande.*\n\n> Hej Kristian! Har tänkt vidare på det vi började prata om på Borderland. Jag har landat i en invändning mot Darwins demoner som jag inte kan lösa själv: urvalstrycket verkar ju också på argumenten, och just det lagret har vi ingen infrastruktur för.\n>\n> Har du 25 minuter? Jag kan tisdag 08:00 eller torsdag 08:30 din tid.\n\n**Designval:** invändningen står i meddelandet, konvergensfyndet sparas. Tiden är kapad till 25 minuter så kostnaden är känd. Två exakta tider i **hans** tidszon, så han bara svarar med en bokstav. Borderland-referensen gör att ingenting behöver återetableras. Inget om finansiering, introduktioner eller demo.\n\n**Tidsvalet:** 08:00 Stilla havs-tid motsvarar 17:00 svensk tid, alltså hans för-dag och Fredriks dokumenterade vakenhetstopp.\n\n**Om han inte svarar:** läs det inte personligt. Kanalen har svag träffbild oavsett innehåll (§ 4b). Nästa fysiska tillfälle är då den verkliga vägen, och Borderland 2027 är ett rimligt ankare.\n\n## 6. Klustret bakom honom\n\nRönn är inte en isolerad nod. Fredriks nätverk konvergerar mot ett litet FHI-härlett AI-säkerhetskluster:\n\n- **Kristian Rönn** — ex-FHI Oxford, nu Lucid, Bay Area\n- **Jan Kulveit** — ex-FHI Oxford, nu ACS Research, Prag (se `din-mamma/docs/samhallsvagar_och_kontaktytor_2026-08-12.md` § Väg E)\n- **Spencer Greenberg** — hade Rönn som poddgäst; Fredriks obesvarade varma inbjudan sedan maj\n- **Ulrik/Uli** — finansierad via Jaan Tallinn, SFF och EA Sweden; färdigskriven påminnelse oskickad sedan april\n- **Nick Beckstead** — i Fredriks egen kuraterade Simplenote-lista\n- **Adam Safron** — aktiv inferens, vilket ACS Research anger bland sina metoder\n- **Tom Everitt** — DeepMind, Kaus-medgrundare\n\n**Följd:** detta är inte sju separata utskick. Det är ett kluster där en enda varm återupplivning sprider sig. Sekvensen spelar roll mer än volymen.\n\n## 7. Källor\n\n- Lucid Computing, Rönns roll och FHI-bakgrunden: Foresight Institute-profil, High Net Purpose avsnitt 22, LinkedIn 2026-07-30\n- Darwinistisk demon-definitionen och citatet om smala verktyg: Clearer Thinking avsnitt 279 (Spencer Greenberg, 2025-09-11)\n- LawZero-artikeln: arXiv 2606.29657, pressmeddelande 2026-07-02, `lawzero.org/en/publication/scientist-ai-safe-design-not-desiring`\n- LawZeros organisation och finansiärer: The Logic, 2026-07-15\n- SciencePedia: arXiv 2510.26854, `github.com/deepmodeling/sciencepedia`, DP Technology LinkedIn 2025-11-07\n"}