Grote taalmodellen kunnen nooit volledig veilig worden gemaakt tegen aanvallen, zo stelt een groep onderzoekers in een paper die deze maand werd gepresenteerd op de International Conference on Machine Learning, een gerenommeerde AI-conferentie. Volgens het team ligt de oorzaak in de manier waarop deze modellen fundamenteel zijn opgebouwd, wat betekent dat het probleem niet simpelweg met betere training of extra beveiligingslagen te verhelpen is.
Deze conclusie heeft verstrekkende gevolgen voor de betrouwbaarheid van AI-systemen die steeds vaker worden ingezet in gevoelige omgevingen, zoals bedrijven, overheden en zorginstellingen. Als het klopt dat er altijd manieren zijn om een taalmodel te misleiden of te manipuleren, ongeacht hoeveel beveiligingsmaatregelen worden toegevoegd, dan verschuift de discussie van “hoe maken we AI veilig” naar “hoe beperken we de schade wanneer het misgaat”.
Voor gebruikers en bedrijven die AI-tools inzetten, benadrukt dit onderzoek het belang van extra waakzaamheid. Vertrouw niet blindelings op ingebouwde veiligheidsfilters, maar denk ook aan aanvullende controles, menselijk toezicht en duidelijke grenzen aan wat een AI-systeem zelfstandig mag beslissen. De bevindingen zullen ongetwijfeld verdere discussie aanwakkeren over hoe de AI-industrie omgaat met deze inherente onzekerheid.