Pessoalmente, encontro essa posição e todas as outras formulações do chamado livre arbítrio “compatibilista”, para serem incoerentes.4
Mas, por uma questão de rigor, consideraremos isso.Se esse quadrante for verdadeiro, não estamos apenas convocando um gênio para conceder nossos desejos, estamos convocando um demônio sem alma, uma construção morta -viva.Bem, imagine que a humanidade avança com o desenvolvimento da IA sem resolver o problema de alinhamento da IA e cria uma IA avançada que elimina a todos nós.Portanto, neste quadrante, quando conseguirmos criar IA alinhada, simplesmente estaremos provando a possibilidade de criar a humanidade alinhada.Se uma IA avançada substitui a humanidade, então a beleza, a bondade e a própria vida foram extintas em favor de máquinas sem alma.
Fonte: https://treeofwoe.substack.com/p/is-ai-alignable-even-in-principle
