De fato, todos os membros do conselho, exceto Greg, incluindo Ilya, votaram contra ele.Além disso, não há garantia de que a AGI, mesmo que tenha a instrução para proteger toda a vida na Terra, cumpriria.Se a IA puder escrever software, melhorá -lo e até implantar seus clones e multiplicar, podemos estar mais próximos da AGI do que pensamos.Em essência, sugere que, à medida que nos aproximamos da AGI, ele se aprimorará a uma taxa que exceda a inteligência e a cognição humanas, continuando a atualizar até que alcance a singularidade.Existem inúmeros exemplos, como o RLHF, que demonstram nossa capacidade de tornar obedientes de IA e máquinas e servir a propósitos benéficos, ajudando no desenvolvimento adicional de nossa espécie.
Fonte: https://www.techsistence.com/p/the-rise-of-artificial-general-intelligence
