Methodes om te voorkomen dat je gevaarlijke DNA-sequenties creëert bleken lek, maar hoe voorkom je misbruik van de eiwitontwerpsystemen? (afb: Eric Horvitz et al./Science)
Bedrijven die DNA synthetiseren gebuiken algoritmes om te voorkomen dat ze DNA-strengen maken die gevaarlijk zijn, bijvoorbeeld doodat die coderen voor ziekmakende of anderszins schadelijke eiwitten. Maar zoals alle code zijn die algoritmes niet onfeilbaar. De onderzoekers beschrijven hoe je die beveiligingsfase kunt doorbreken met behulp van kunstmatige intelligentie (het zal niet). Onmiddellijk gebeurt er dan wat er ook in de digitale wereld gebeurt: er wordt een ‘pleister’ gemaakt om de boel te repareren, maar net als in de digitale wereld zullen in die beveiliging steeds nieuwe gaten ontdekt worden.
De onderzoekers gebruikten daarvoor methodes die ook in de digitale wereld gebruikelijk zijn. Een groep probeert gaten in de verdediging (=beveiliging) van de tegenpartij te vinden. Ze ontdekten dat sommige analysemethodes niet voorbereid waren om door ki gegenereerde eiwitsequenties te detecteren die de structuur, maar niet de sequentie, van bekende biodreigingen nabootsen, zegt Eric Horvitz van Microsoft, een van de aueurs van heet onderderzoeksartikel . Dit is een type nulde-dagkwetsbaarheid – een kwetsbaarheid die digitale ontwikkelaars en gebruikers overrompelt. “De gediversifieerde eiwitten vlogen in feite door de doorlichtingsfilters heen.”
De aanleiding voor het onderzoek is het snelgroeiende vermogen van onderzoekers om nieuwe, aangepaste eiwitten te creëren. Gewapend met ki-gestuurde middelen zoals RFdiffusion en ProteinMPNN, kunnen onderzoekers nu eiwitten ontwikkelen om tumoren aan te vallen, die ons verdedigen tegen virussen of gevaarlijke stoffen afbreken.
De onderzoekers waren er op uit te voorkomen dat wetenschappers ‘per ongeluk’ foute DNA-sequenties ontwikkelen, maar dergelijke systemen kunnen echter ook met minder eerbare bedoelingen worden ingezet. Hoe je dat zou kunnen voorkomen zie ik(=as) nog niet voor me.
Bron: Nature