A.I. Grover moet nepnieuws spotten

kijkmagazine

2019-06-01 12:59:38

Zoals Super Grover uit Sesamstraat mensen van hun alledaagse problemen afhelpt, moet een gelijknamig A.I.-systeem korte metten maken met nepnieuws.

Nepnieuws; zwaaroverdreven verhalen, roddels of volledige lariekoek. Het internet staat er vol mee, en men is dan ook druk bezig met het ontwikkelen van methoden om de sterke verhalen te bestrijden. Zo ook onderzoekers aan de Washington-universiteit. In een poging door slimme computers geschreven nepnieuws tegen te gaan, ontwikkelden ze AI-systeem Grover. Het systeem zou een ster zijn in het schrijven van fake news – de beste, zo schrijft het team. En dat zou iets goeds zijn. Dankzij zijn skills moet Grover computergeschreven lariekoek namelijk moeiteloos kunnen spotten.

Lees ook:

Nepnieuws

Specifiek hebben de auteurs het bij nepnieuws over onwaarheden die ontworpen zijn om lezers opzettelijk te misleiden. Denk aan zwaaroverdreven verhalen die enkel dienen om zoveel mogelijk lezers te trekken en dus geld op te leveren, maar ook artikelen die met valse informatie meningen van lezers proberen te beïnvloeden.

Dergelijk nepnieuws, zo stellen de onderzoekers in het artikel op pre-printserver arXiv.org, wordt vooralsnog vooral door mensen geschreven. Maar met de technologische ontwikkelingen op het gebied van kunstmatige intelligentie en deep learning-systemen zal het niet lang meer duren voor we ook regelmatig neural fake news – geschreven door slimme computerprogramma’s – zullen zien.

Super Grover

Dat moet A.I.-systeem Grover dus gaan bestrijden. Volgens de onderzoekers is het systeem een ster in het schrijven van op niks gebaseerde, misleidende stukken. Beter nog dan mensen, beweren ze. Zo schrijft Grover een heel degelijke stukje niet-onderbouwde nonsens in de stijl van The Washington Post, The New York Times en Wired. Volgens de studie vonden lezers de stukken van Grover overtuigender dan stukken geschreven door mensen.

Juist omdat het systeem die vaardigheden heeft, zou Grover ook een ster zijn in het vinden van A.I.-nepnieuws, aldus de onderzoekers. Het algoritme analyseert niet alleen de tekst van een artikel (zoals veel andere tools) het checkt ook de titel en ondertitel, auteur en andere details waaraan afgeleid zou kunnen worden dat het om nepnieuws gaat.

“De beste tools van het moment zijn in staat om computer geschreven nepnieuws met 73 procent nauwkeurigheid van door mensen geschreven stukken te onderscheiden”, schrijven de onderzoekers. “Grover kan dat met 92 procent nauwkeurigheid.”

In de verkeerde handen

In tegenstelling tot de makers van vergelijkbare algoritmen wil het team Grover beschikbaar maken voor het publiek. Fijn, maar ook een beetje eng. In theorie zouden de kunsten van Grover zo natuurlijk ook misbruikt kunnen worden – precies de reden waarom OpenAI’s GPT-2 bijvoorbeeld niet zomaar voorhanden is.

Het mes snijdt dus aan twee kanten, maar de onderzoekers zijn positief. Volgens hen is Grover vooralsnog de beste bescherming tegen nepnieuws. Zelfs als dat door het A.I.-systeem zelf geschreven is. Laten we hopen dat ze gelijk hebben.

Bronnen: arXiv.org, Futurism

Ben je geïnteresseerd in de wereld van wetenschap & technologie en wil je hier graag meer over lezen? Bestel dan hier ons nieuwste nummer. Abonnee worden? Dat kan hier!







Bestel hier de nieuwste editie!




Meer Nieuws