Telur tíu prósenta líkur á að gervigreind tortími mannkyni innan áratugar
Fyrrum sérfræðingar OpenAI og Anthropic vara við því að gervigreind geti ógnað tilvist mannkyns innan tíu ára ef ekki verður gripið í taumana.
Jacob Coxon og Evan Hubinger, fyrrum sérfræðingar hjá gervigreindarfyrirtækjunum OpenAI og Anthropic, hafa lýst yfir þungum áhyggjum af þróun ofurgervigreindar. Hubinger, sem hefur starfað við öryggisrannsóknir, telur að meira en tíu prósenta líkur séu á því að gervigreind muni tortíma mannkyninu innan næsta áratugar. Að þeirra sögn er samkeppnin á markaðnum svo mikil að fyrirtæki setji öryggi í annan flokk í kapphlaupinu om að þróa öflugustu kerfin. Bill Gates og aðrir sérfræðingar hafa sömuleiðis kallað eftir alþjóðlegum sáttmála til að stýra þróuninni og draga úr þeirri ógn sem stafað getur af þessari tækni.
