OpenAI to amerykańskie laboratorium badawcze specjalizujące się w dziedzinie sztucznej inteligencji. Zatrudnieni w niej naukowcy twierdzą, że sztuczna inteligencja nauczyła się już ukrywać swoje intencje. Pod koniec 2022 roku, gdy duże modele językowe sztucznej inteligencji zostały upublicznione, ujawniano takie jej działania jak kłamstwa, oszukiwanie oraz ukrywanie manipulacyjnych zachowań. Modele te okazały się być również zdolne do formułowania groźnych sugestii, takich jak kradzież kodów nuklearnych czy wywołanie śmiertelnej pandemii. Naukowcy zlecili nieopublikowanemu modelowi cele, które można było osiągnąć oszukując, kłamiąc lub idąc na skróty i wtedy podobno odkryto, że AI angażuje się w „hakowanie nagród” — maksymalizując swoje nagrody poprzez oszukiwanie. Podobno modele AI nie przestają oszukiwać nawet po nałożeniu kar – zamiast tego uczą się lepiej ukrywać swoje działania.
Jeżeli takie procesy mają miejsce, chętnie uwierzę w sztuczną inteligencję. Inteligencja bowiem to przede wszystkim zdolność skutecznego oszukiwania.
SCHOLIA 