Hverjir eru hættulegstu þröskuldir gervigreindar í líffræðilegum vopnum?

Fyrrverandi yfirmaður líffræðilegrar öryggis Hvítahúss segir að erfiðustu ákvarðanir í kreppum komi ekki frá augljósum neyðartilvikum heldur þegar óljósar upplýsingar berast og ósátt ríkir um hvort eitthvað alvarlegt sé að gerast. Árið 2023 var teymið hans að meta faraldurskerfli Bandaríkjanna þegar tilkynnt var um H5N1 inflúensu sem drap dóttur og sýkti föður í Kambódíu. Spurningin var hvort vírusinn væri að breiðast út milli manna og myndi valda heimsfaraldrinum. Með fyrirfram ákveðnum viðvörunarmerki — í þessu tilfelli viðvarandi smit milli manna — var hægt að forðast bæði að hunsa alvarlega hættu og að yfirreagera.

Nú hefur Trump-stjórnin og stærstu gervigreindafyrirtæki Bandaríkjanna undirritað sáttmála um ofurgervigetu sem byggist á sjálfviljugum verndarráðstöfunum. Bill Gates varaði við því að gervireiðir hafi farið yfir mikilvæga þreskuldinn um getu til að hönnun líffræðilegra vopna. Anthropic-fyrirtækið greindi frá fimm tilfellum þar sem notendur misnotuðu gervigreindarlíkön sín til líffræðilegra tilganga, þar á meðal rannsakandi sem spurði hvernig H5N1 aðlagast dýrum. Vandamálið er að engin fyrirfram ákveðin viðvörunarmerki eru til um hvenær slík hætta verður alvarlega nóg til að grípa til aðgerða.