Gebruikerswaardering: 5 / 5
Column door Fred van Assendelft - NLMagazine/Columns - Heeft u pijnlijke, jeukende ogen, met een roze uitslag op de oogleden ? En werkt u veel met monitoren, vooral in de avond ? Dan heeft u misschien wel Bixonimanie, een oogaandoening die veroorzaakt wordt door langdurige blootstelling aan blauw licht. Deze aandoening werd voor het eerst beschreven door de wetenschapper Lazljiv Izgubljenovic.
Er is alleen een probleem: Zowel Izgubljenovic als Bixonimanie bestaan niet. Lazljiv Izgubljenovic (wat vrij vertaald neerkomt op ‘leugenachtige verlorene’ ) zou van de Asteria Horizon University in Nova City (California) zijn, maar noch de universiteit noch de plaats bestaan.
Dit is het resultaat van een experiment van Almira Osmanovic Thunström (1984), een medisch onderzoeker aan de Universiteit van Göteborg. Zij wilde weten of het mogelijk was om informatie die er officieel uitzag maar voor een menselijke lezer overduidelijk nep was in een taalmodel (LLM) te laten verschijnen. En dat bleek bijzonder makkelijk.
Vooral woorden met bekende voor- of achtervoegsels: bi-; hyper-; -itis; -syndroom, -manie maken een goede kans. Je moet daarbij wel aan de doeltaal voldoen, dat is in dit geval de medische terminologie. Een woord als Linguopathia dysphasia zal er eerder doorkomen dan de Ziekte van Flibber-Flapper.
Inmiddels zijn veel modellen getraind om medische claims kritischer te bekijken; ze kijken bijvoorbeeld of de genoemde ziekte terug te vinden is bij PubMed, WHO, of CDC databases. Het is dus zaak om, zoals Thunström het deed, twee blogposts te publiceren op het publicatieplatform Medium. Haar artikelen zijn later verwijderd, maar niet voordat de inhoud werd opgenomen in de dataset van verschillende grote taalmodellen.
Later werden twee verhandelingen geplaatst op SciProfiles, een netwerk waarop wetenschappers nog niet gepubliceerde artikelen kunnen publiceren. Deze papers stonden op naam van Lazljiv Izgubljenovic. In de dankwoorden werd de Starfleet Academy genoemd en zou het onderzoek zijn uitgevoerd aan boord van de USS Enterprise. Ook werd verwezen naar de Professor Sideshow Bob Foundation als financier.
Voor de meeste mensen zijn dat duidelijke signalen dat er iets niet klopt. Het lijkt op het serieus nemen van een onderzoek van de Universiteit van Zweinstein, betaald door de Dagobert Duck Foundation. Toch namen verschillende AI-systemen de informatie serieus. Binnen korte tijd gaven onder andere Copilot, Gemini en ChatGPT medisch advies over een ziekte die nooit heeft bestaan.
Zo kunt u het nu ook, verzin een kreet, publiceer die een aantal keren en Ai neemt het klakkeloos over. Dat lukt alleen niet meer met Bixonimanie.
