Mimmo Wiestål Fischetti
Att vakna på morgonen och plocka upp mobilen för att läsa nyheter eller kolla vädret har blivit en självklar vana i de flesta hem.
Datorer och smarta program hjälper oss att planera arbetsveckan och underlättar flera moment i livet och jobbet.
När den digitala hjärnan blir allt mer avancerad väcks samtidigt fundamentala frågor om hur samhället påverkas framöver.
Det handlar om mänsklig trygghet och etik som ställs mot den blixtsnabba tekniska utvecklingen.
Chefen för Microsofts satsning på artificiell intelligens Mustafa Suleyman varnar nu för att utvecklingen kan gå överstyr utan rätt skyddsmekanismer.
Om inte tydliga gränser sätts upp kan tekniken utvecklas till en ny kiselbaserad art som börjar tävla med människor om resurser.
I en intervju med brittiska BBC lyfter han fram oron inför framtiden.
Han menar att det är helt rätt av allmänheten att känna skepsis men att det finns konkreta åtgärder för att behålla kontrollen.
Kritiserar konkurrenter hårt
Expertens utspel riktar sig särskilt mot konkurrenten Anthropic som han anser behandlar tekniken som om den vore mänsklig.
”AIs are not conscious.”
Han betonar att systemen saknar medvetande, känslor och egna behov.
Att ge datorprogram mänskliga egenskaper och låta dem sätta egna mål eller äga tillgångar skapar stora risker för att människor förlorar greppet om skapelsen.
Kräftgång kräver kontroll
För att förhindra en farlig utveckling krävs det nu betydligt större insyn i hur modellerna tränas upp och utvärderas.
”Vi får inte gå i sömnen in i ett beslut som vi senare kommer att djupt ångra.”
Internationella experter välkomnar diskussionen och efterlyser en sund debatt utan skrämseltaktik.
Målet för hela branschen måste vara att skapa superintelligens som alltid underordnar sig mänskligheten och arbetar för personens bästa.
