Google maakt uit-knop voor kwaadaardige Artificial Intelligence

Films als I, Robot en Ex Machina en Terminator zijn natuurlijk verre van reëel, maar lijken desondanks angst op te wekken. Om het publiek gerust te stellen werkt Google nu aan een knop waarmee kunstmatige intelligentie in één keer kan worden uitgeschakeld.

Rode knop stopt artificial intelligence

Samen met de universiteit van Oxford doet DeepMind, het artificial intelligence-bedrijf van Google/Alphabet, onderzoek naar een mogelijke ‘rode knop’. Wanneer een project uit de hand loopt, kan de knop zekerheid bieden dat de mensen de macht over de AI-software behouden. “Af en toe kan het nodig zijn voor een menselijke toezichthouder om op een grote rode knop te drukken”, zo is te lezen in het paper Safely Interruptible Agents (pdf), geschreven door de onderzoekers. “Zo wordt voorkomen dat een AI-agent doorgaat met acties die schadelijk zijn voor hemzelf of zijn omgeving”.

Niet geschikt voor elke AI

De onderzoekers van Oxford en DeepMind hebben een framework ontwikkeld waarmee mensen kunnen ingrijpen in een schadelijk proces. Het framework is tevens zo gemaakt dat het door Artifical intelligence niet kan worden herkend of uitgeschakeld, het ingrijpen door mensen kan dus niet worden voorkomen. Het framework is getest op algoritmes die veel voorkomend zijn bij AI en lijkt succesvol. Of het toepasbaar is op elke vorm is nog onduidelijk, de onderzoekers geven toe dat niet alle algoritmes even makkelijk te stoppen zijn.

Sneller

Eén van de onderzoekers, dr. Armstrong, stelt dat het van belang is dat de AI’s van deze beveiliging voorzien worden, om te kunnen voorkomen dat zij hun scheppers als het ware inhalen. Dr. Armstrong gelooft dat de machines in staat zijn om systemen als financiële markten, transport, gezondheidszorg in een dusdanig rap tempo te verwerken dat ze deze kunnen overnemen. Ofwel, ze zijn tot veel meer in staat dan schaken en kunst waarderen.

Xiaomi Mi A1 vs Huawei P Smart uitgelicht

Huawei schiet omhoog in Europa, Apple en Samsung incasseren klappen lees verder

Tim Cook iPhone X

Tegenvallende verkopen iPhone X betekenen grote klap voor Samsung lees verder

Apple’s Siri is half zo slim als een zesjarig kind lees verder

Samsung

Wordt dit de killer-functie van de Samsung Galaxy S9? lees verder

iPhone X Face ID

Smartphonefabrikanten zijn haastig bezig met eigen versie Apple’s Face ID lees verder

Samsung Galaxy Note 8 review design

Sorry Apple: we hebben zeer goed nieuws over de Samsung Galaxy Note 9 lees verder

Volg ons via

Nieuwsbrief

Want.nl is een samenwerking tussen Wayne Parker Kent en Qontent Matters