Estamos no meio de uma curva exponencial, e os ganhos econômicos à frente são muito atraentes e com muita facilidade ao seu alcance, para que o progresso da IA seja controlado.A opção de segurança da IA é ficar fora dela, no estilo Kacyznski, morar em comunidades agrárias e perseguir forchforks que qualquer pessoa que tenta perfurar petróleo.Em uma curva exponencial, a inclinação do ponto-tempo só se torna mais íngreme.1
Como eu argumentei na minha peça sobre E/ACC, 2 e repetindo a observação de Kaczynzki, você não pode realmente “cortar” aqui.Estou intrigado com essa visão, porque acho que é equivalente à posição do Unabomber.Os incentivos do mercado, a dinâmica auto-reforçada do progresso tecnológico, simplesmente não funcionam dessa maneira.
Fonte: https://jayriverlong.substack.com/p/49-youre-taking-the-unabombers-position
