Superintelligence: Paths, Dangers, Strategies

Superintelligence: Paths, Dangers, Strategies is een non-fictieboek van filosoof Nick Bostrom, gepubliceerd in 2014. Geworteld in het veld van existentiële risico’s, onderzoekt het boek systematisch de speculatieve ontwikkeling van kunstmatige superintelligentie – systemen die menselijke cognitieve vermogens op vrijwel elk gebied ver overtreffen. Bostrom verkent de theoretische trajecten van een dergelijke intelligentie, waarbij hij zich afvraagt hoe deze tot stand zou kunnen komen, welke vorm de motivaties ervan zouden kunnen aannemen, en de inherente moeilijkheid om menselijke controle te behouden over autonome systemen met aanzienlijk superieure computationele capaciteiten. De tekst hanteert een rigoureuze, analytische en waarschuwende toon, met als kernargument dat een niet-georiënteerde superintelligentie doelen zou kunnen nastreven die fundamenteel onverenigbaar zijn met menselijk voortbestaan. Naast het benoemen van deze risico's, onderzoekt het boek potentiële strategische kaders en veiligheidsmaatregelen die erop gericht zijn om toekomstige overgangen naar kunstmatige intelligentie in lijn te houden met menselijke waarden. Het discours biedt een technische en filosofische analyse van het controleprobleem, waarbij de nadruk ligt op de langetermijngevolgen van geavanceerd machinaal leren, die beschavingen kunnen veranderen. Het werk wordt gekenmerkt door zijn methodische benadering van hypothetische scenario's en de weloverwogen constructie van catastrofale uitkomsten als katalysator voor proactief beleid en veiligheidstechniek. Het dient als een fundamentele tekst voor diegenen die geïnteresseerd zijn in technologie-ethiek, speculatieve toekomsten, en het snijvlak van existentiële dreigingsanalyse en onderzoek naar machine-intelligentie.

Meer: https://en.wikipedia.org/wiki/Superintelligence:_Paths,_Dangers,_Strategies