Acontece que a AI de hoje chantageia os seres humanos e, portanto, devemos nos preocupar com a AGI fazendo ... mais da mesma forma.
Primeiro, alguns fundamentos são obrigados a preparar o cenário para essa discussão pesada.
Como será a AGI em termos do que faz e como age?
Além das alucinações da IA, agora você pode adicionar a possibilidade de a IA tentar chantagear ou extorquir humanos à lista assustadora de preocupações sobre a IA contemporânea e a IA futura como a AGI.
O tópico de chantagem e extorsão surge nos vastos dados encontrados na Internet?
A AGI pode incluir tendências semelhantes, talvez por ser construído usando os mesmos métodos da IA de hoje ou por várias outras razões realistas.
No geral, a AGI pode ser um chantagista de nível de especialista que chantageia ou extorque de maneiras engenhosas e desafiadoras para refutar ou parar.
As chances são de que a AGI possa realizar facilmente chantagem individual em uma escala enorme se não for controlada.
Caixa fechada.
A AGI não vai funcionar dessa maneira.
Uma questão levantada é se os humanos podem ser capazes de chantagear a AGI.
Aqui está um pensamento final sobre isso por enquanto.