Google maakt uit-knop voor kwaadaardige Artificial Intelligence

Films als I, Robot en Ex Machina en Terminator zijn natuurlijk verre van reëel, maar lijken desondanks angst op te wekken. Om het publiek gerust te stellen werkt Google nu aan een knop waarmee kunstmatige intelligentie in één keer kan worden uitgeschakeld.

Rode knop stopt artificial intelligence

Samen met de universiteit van Oxford doet DeepMind, het artificial intelligence-bedrijf van Google/Alphabet, onderzoek naar een mogelijke ‘rode knop’. Wanneer een project uit de hand loopt, kan de knop zekerheid bieden dat de mensen de macht over de AI-software behouden. “Af en toe kan het nodig zijn voor een menselijke toezichthouder om op een grote rode knop te drukken”, zo is te lezen in het paper Safely Interruptible Agents (pdf), geschreven door de onderzoekers. “Zo wordt voorkomen dat een AI-agent doorgaat met acties die schadelijk zijn voor hemzelf of zijn omgeving”.

Niet geschikt voor elke AI

De onderzoekers van Oxford en DeepMind hebben een framework ontwikkeld waarmee mensen kunnen ingrijpen in een schadelijk proces. Het framework is tevens zo gemaakt dat het door Artifical intelligence niet kan worden herkend of uitgeschakeld, het ingrijpen door mensen kan dus niet worden voorkomen. Het framework is getest op algoritmes die veel voorkomend zijn bij AI en lijkt succesvol. Of het toepasbaar is op elke vorm is nog onduidelijk, de onderzoekers geven toe dat niet alle algoritmes even makkelijk te stoppen zijn.

Sneller

Eén van de onderzoekers, dr. Armstrong, stelt dat het van belang is dat de AI’s van deze beveiliging voorzien worden, om te kunnen voorkomen dat zij hun scheppers als het ware inhalen. Dr. Armstrong gelooft dat de machines in staat zijn om systemen als financiële markten, transport, gezondheidszorg in een dusdanig rap tempo te verwerken dat ze deze kunnen overnemen. Ofwel, ze zijn tot veel meer in staat dan schaken en kunst waarderen.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd.

  1. freerkje -

    Misschien denk ik wel zo simpel….maar zo’n ding hangt toch aan een stekker.En als het in een collectief hangt zijn het alleen wat meer stekkers.

    1. Sebastien Debaenst -

      Al zit niet op een punt, en zal na een tijd op het internet gaan leven waarschijnlijk. Vandaar dat een stekker uittrekken niet zo helpen

    1. Sebastien Debaenst -

      Zo makkelijk is het jammer genoeg niet 🙁 Want AL zal zelf een leven leiden en dus ook dingen bijleren. En net zoals bij mensen het geval is, kan het altijd zijn dat het kwaadaardig wordt.

iPhone 6 toestellen

Zo kun je veilig en snel wachtwoord van je wifi delen in iOS 11 lees verder

iPhone 8 ontwerp

Helaas: nieuwe iPhones worden trager dan de concurrentie lees verder

iPad

Vijf iOS 11 functies die Apple van Android heeft gepakt lees verder

Apple Watch 3

WatchOS 4 onthuld: dit is er nieuw in grote update voor Apple Watch lees verder

Apple

Livestream: zo volg je vanavond live Apple’s WWDC 2017 keynote evenement lees verder

EU

Vanaf 15 juni geen roamingkosten meer: hier moet je op letten lees verder

Volg ons via

Nieuwsbrief

Want.nl is een samenwerking tussen Wayne Parker Kent en Qontent Matters