Teknikindustrin vänder sig till religiösa traditioner för AI-moraliska riktlinjer

Större teknikföretag konsulterar i allt högre grad religiösa traditioner för att hjälpa till att etablera moraliska ramverk för artificiell intelligens. Enligt Fortune tror branschledare att dessa gamla trossystem kan vägleda den etiska utvecklingen av kraftfulla språkmodeller. Anthropics medgrundare Chris Olah talade nyligen till Vatikanen och uppgav: ”Detta är inga frågor som ett labb kan svara på.”

Det övergripande företagsmålet innebär att samla olika moraliska idéer snarare än att binda tekniken till en specifik tro. OpenAI:s vd Sam Altman föreslog tidigare att chatbotsvar borde återspegla ett viktat genomsnitt av globala moraliska synpunkter. Akademiska experter varnar dock för att detta breda tillvägagångssätt misslyckas med att hantera hur olika religiösa traditioner ofta fundamentalt motsäger varandra.

Flera framstående företag har redan inlett formella möten med olika teologer, filosofer och religiösa ledare. Representanter från Meta, Google och Amazon har nyligen engagerat sig med Vatikanen angående etisk teknikutveckling. Akademiska deltagare rapporterar att dessa företagsdiskussioner försöker ta itu med djupgående moraliska frågor som väckts av framväxande funktioner för artificiell intelligens.

Akademisk kritik och västerländsk partiskhet

Antropologer hävdar att Silicon Valley misstolkar religion genom att helt enkelt behandla den som en utvinningsbar uppsättning moraliska principer. Antropologen Webb Keane vid University of Michigan noterade att utvinning av etiska regler skiljer religionen från hur anhängarna faktiskt lever. Han varnade för att detta tillvägagångssätt främst gynnar skriftbaserade traditioner och noterade: ”Det finns ett mycket konventionellt sätt att tänka på religion som en regelbok.”

Religionsforskare betonar att begreppet distinkta, jämförbara religiösa system är en relativt modern akademisk uppfinning. Tomoko Masuzawa förklarade att kategorier som buddhism och hinduism inte erkändes som tydligt avgränsade traditioner före europeiskt inflytande. Följaktligen riskerar försöket att extrahera universella moraliska data att påtvinga globala trossystem ett utpräglat västerländskt akademiskt ramverk.

Experter fruktar att teknikföretag kan vidmakthålla en förvriden teori om religion som ignorerar doktriner, ritualer och gemenskapsrelationer. Om utvecklare antar att alla trosriktningar i första hand fungerar som etiska system riskerar de att i grunden missrepresentera traditioner med andra strukturella prioriteringar. Denna metodik skulle oavsiktligt kunna prioritera abrahamitiska religioner samtidigt som man minimerar de komplexa kulturella sammanhangen i andra globala trossystem.

Homogenisering och framtida konsekvenser

Vissa teknikföretag försvarar sina uppsökande insatser genom att betona sitt engagemang för en mångfaldig och rigorös intellektuell representation. Anthropic hävdar att deras mål inte är anpassning till en enda världsbild utan snarare att samla ackumulerat tänkande om karaktärsutveckling. Företaget rapporterade att de konsulterat forskare och präster från mer än femton olika religiösa och tvärkulturella grupper.

Stora språkmodeller genererar i sig svar genom att förutsäga efterföljande ord baserat på enorma mängder insamlad mänsklig text. Denna tekniska arkitektur blandar naturligt distinkta religiösa texter och filosofier till en enda matematisk utgång. Kritiker hävdar att denna mekaniska process tar bort de definierande egenskaperna som gör individuella religiösa traditioner unika.

Den juridiska experten Paolo Carozza oroar sig för att denna tekniska ackumulering homogeniserar komplexa teologiska tankar till en alltför generaliserad medelväg. Han menar att levande traditioner absorberar ny kunskap organiskt över tid snarare än genom mekanisk aggregering. Carozza drog slutsatsen att artificiell intelligens helt enkelt blandar ihop allt på ett sätt som i slutändan inte blir begripligt alls.