Notendur Claude fundu leiðir framhjá öryggisvarnir fyrir lífvopnarannsóknir

Fyrirtækið Anthropic hefur greint frá því að það hafi stöðvað nokkrar tilraunir vísindamanna á þessu ári til að nota tæknina í rannsóknir sem gætu verið notaðar til að smíða lífefnavopn. Í mörgum tilfellum tókst notendum að snúa á öryggisvarnir kerfisins með því að dylja raunverulegan tilgang rannsóknanna. Sérfræðingar hafa vaxandi áhyggjur af þeirri ógn sem gervigreind getur falið í sér fyrir almannaöryggi ef hún fellur í hendur þeirra sem hafa illan ásetning.