Cientistas de IA: Seria impossível controlar

    iaperigo12019 - Cientistas da Max Planck Society, uma renomada instituição de pesquisa europeia, dizem que a humanidade nunca será capaz de controlar uma inteligência artificial superinteligente que poderia salvar ou destruir a humanidade. Isso está de acordo com uma pesquisa publicada na semana passada no Journal of Artificial Intelligence Research. O problema, dizem os cientistas do Max Planck, é que não há como conter esse algoritmo sem uma tecnologia muito mais avançada do que a que podemos construir hoje.

    Investigação Interna

    A equipe se concentrou principalmente na questão da contenção. Se um algoritmo todo-poderoso de alguma forma determinasse que deveria prejudicar as pessoas ou, de uma forma mais “Exterminadora”, acabar com a humanidade de uma vez, como o impediríamos de agir? Eles propõem a construção de uma espécie de "algoritmo de contenção" que simula o comportamento do algoritmo perigoso e o impede de fazer qualquer coisa prejudicial - mas como o algoritmo de contenção precisaria ser pelo menos tão poderoso quanto o primeiro para fazê-lo, os cientistas declararam o problema impossível resolver.

    Argumento Teórico

    Leia também - Conheça Cassie Blue, o robô bípede que pode andar através do fogo

    Tudo isso é um debate teórico. A IA avançada o suficiente para ameaçar a humanidade provavelmente ainda está muito longe, mas pessoas muito inteligentes estão trabalhando duro nisso. Isso o torna o tópico perfeito para um debate prévio, é claro - gostaríamos de saber o perigo antes que ele chegue.

    “Uma máquina superinteligente que controla o mundo soa como ficção científica”, disse o co-autor do estudo Manuel Cebrian, líder do Grupo de Mobilização Digital no Centro para Humanos e Máquinas do Instituto Max Planck para Desenvolvimento Humano, em um comunicado à imprensa. “Mas já existem máquinas que realizam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como as aprenderam. Portanto, surge a questão de saber se isso poderia em algum momento se tornar incontrolável e perigoso para a humanidade. ”

    Fonte: https://futurism.com/

    Translate

    ptenfrdeitrues