Os especialistas na área de criação de inteligência artificial em nível humano hoje precisam resolver não apenas problemas científicos, mas também éticos. Quais são os desafios que os cientistas enfrentam? Como proteger a humanidade de ameaças potenciais representadas pela criação de uma mente superpoderosa e permanecer humana no novo mundo? Professor do Instituto de Sistemas Cibernéticos Inteligentes da Universidade Nacional de Pesquisa Nuclear "MEPhI" (IIKS NRNU MEPhI) Alexey Samsonovich contou sobre isso ao correspondente do projeto "Navegador Social" do MIA "Rússia Hoje" Anna Kurskaya.
- Alexey Vladimirovich, nossa conversa está ocorrendo no âmbito da Conferência Internacional "Biologicamente Inspired Cognitive Architectures" BICA 2019. Que tópicos de discussão hoje vêm à tona em relação à criação de inteligência artificial em nível humano?- A conferência permitiu-nos mais uma vez perceber os principais desafios no campo da criação de inteligência artificial de última geração, que deve se tornar uma parceira igual e amiga do homem. Em primeiro lugar, o desafio é criar inteligência emocional de nível humano que possa controlar as emoções na tomada de decisões e na geração de comportamento. Em particular, essa qualidade permitirá que a máquina estabeleça laços sociais de longo prazo, semelhantes aos que existem entre entes queridos. Também permitirá que ela justifique suas ações e decisões, escolha metas e uma forma de aprender. A inteligência emocional é a chave para responder a outros desafios. Não se limita à capacidade de reconhecer e expressar emoções, que hoje são ocupadas pela maioria dos pesquisadores que atuam na área. Embora ambos os processos sejam necessários,é muito mais importante e mais difícil entender a conexão entre um e outro, proporcionada pela inteligência emocional. Em segundo lugar, o agente inteligente deve compreender o contexto do que está acontecendo. Isto significa que, com base nas informações de que dispõe, deve gerar de forma independente e atualizar continuamente o cenário global do passado e do futuro, determinar o seu papel nele e, a partir daí, definir objetivos específicos e desenvolver planos para os alcançar. Na literatura científica, essa habilidade costuma ser chamada de “inteligência narrativa” (não deve ser confundida com programas que funcionam de acordo com um roteiro ou narrativa previamente escrita por uma pessoa).que ele deve gerar de forma independente e atualizar continuamente o cenário global do passado e do futuro com base nas informações de que dispõe, determinar seu papel nele e, então, com base nisso, definir metas específicas e desenvolver planos para sua realização. Na literatura científica, essa habilidade costuma ser chamada de “inteligência narrativa” (não deve ser confundida com programas que funcionam de acordo com um roteiro ou narrativa previamente escrita por uma pessoa).que ele deve gerar de forma independente e atualizar continuamente o cenário global do passado e do futuro com base nas informações de que dispõe, determinar seu papel nele e, então, com base nisso, definir objetivos específicos e desenvolver planos para alcançá-los. Na literatura científica, essa habilidade é comumente chamada de “inteligência narrativa” (não deve ser confundida com programas que funcionam de acordo com um roteiro ou narrativa previamente escrita por uma pessoa).ou narrativa).ou narrativa). - Existe um terceiro desafio?
- Será a implementação da aprendizagem ativa de inteligência artificial, que, como uma pessoa, ela mesma desenvolve um sistema de valores que motiva o processo de aprendizagem, ela mesma forma metas e um roteiro de aprendizagem, escolhe meios (por exemplo, experimentos para testar hipóteses, busca de recursos disponíveis ou perguntas a uma pessoa), e, movido por sua própria iniciativa, usa esses meios para atingir a meta. Ao mesmo tempo, a máquina deve ser capaz de se desenvolver independentemente do nível de uma criança ao nível de um adulto e, posteriormente, à superinteligência.
Essa terceira área poderia ser chamada de "inteligência de aprendizado em nível humano" para distingui-la do "aprendizado profundo" e de outros tipos de aprendizado de máquina populares atualmente. No meu entendimento, a inteligência de aprendizagem no nível humano será possível por meio da inteligência emocional e narrativa.
Que pesquisa você está fazendo agora? Como está o seu trabalho na criação de assistentes humanos virtuais e modelagem de inteligência emocional?
- Estamos empenhados em modelar a inteligência emocional humana com o objetivo de desenvolver assistentes humanos virtuais socialmente compatíveis com base em nossos modelos.
Consideramos uma ampla gama de tarefas específicas e áreas de pesquisa. Por exemplo, esta é a criação de um parceiro virtual em um videogame; coordenador ou moderador virtual; assistente criativo virtual para o compositor, coreógrafo, designer, assistente para o solucionador de problemas de insight; um ouvinte virtual (no futuro - um interlocutor virtual); bem como um animal de estimação virtual, comparável a um real em termos de características sociais e emocionais.
Os resultados são difíceis de apresentar em detalhes aqui, mas podem ser encontrados em nossas publicações abertas. Apesar de toda a amplitude de nossas tentativas e sucessos, precisamos de um avanço em uma direção: para provar o valor prático do modelo geral de inteligência emocional humana, incorporado em um agente intelectual.
Recentemente, nosso Laboratório BICA no Departamento de Cibernética do NRNU MEPhI foi enriquecido com novos métodos de pesquisa, incluindo uma plataforma experimental baseada em realidade virtual e mista (com rastreamento da direção dos olhos do sujeito), bem como eletromiografia e análise automática de expressões faciais, permitindo-nos registrar as emoções de sujeitos imersos em ambientes virtuais. A maior parte do nosso trabalho agora é feito usando essas tecnologias. EEG e fMRI também são usados em alguns experimentos.
Vídeo promocional:
Nosso objetivo geral imediato é refinar e validar empiricamente a Arquitetura Cognitiva Socioemocional do Ebica (eBICA) e criar demonstrações eficazes com base nela. Este trabalho está sendo realizado no NRNU MEPhI com o apoio financeiro da bolsa da Russian Science Foundation No. 18-11-00336.
Recentemente, a startup Neuralink de Elon Musk anunciou desenvolvimentos que, no futuro, poderiam tornar uma pessoa um ciborgue, capaz de controlar um computador com o poder do pensamento. Essa linha de pesquisa é promissora para você?
- No meu entendimento, a inteligência artificial deve se tornar, por um lado, uma parceira igual e amiga do homem, e por outro, uma extensão da normalidade ou substituição das capacidades humanas perdidas, incluindo meios baseados em uma interface direta com o cérebro humano.
Nesse caso, uma pessoa poderia literalmente usar um computador ou microchip como parte de seu cérebro. Ambos visam o bem e devem ser inteiramente controlados por seu criador. Desejo a Elon Musk todo o sucesso.
Qual é a necessidade de desenvolver meios de combater a inteligência artificial?
- Acho que em nossa época as ferramentas de inteligência artificial ficarão sob o controle de uma pessoa, mesmo que seja apenas por causa de sua dependência de seu serviço por uma pessoa e por dar-lhe tudo o que precisa. Se alguém pode colocá-los contra uma pessoa, então apenas a própria pessoa. Então, a questão de confrontar essas pessoas deve ser considerada.
Não é segredo que os militares precisam antes de tudo de inteligência artificial. Hoje, como antes, novos meios de ataque e defesa estão sendo criados. Mas a peculiaridade de nosso tempo é que ambos incluem inteligência artificial. Nesse sentido, a necessidade de desenvolver meios de enfrentamento é grande e para alguns países é uma prioridade do ponto de vista financeiro.
O que nos espera após a criação da inteligência artificial, superior à humana? Vamos coexistir com máquinas ou vamos nos unir em algum tipo de um único todo?
- A inteligência artificial se tornará, e já está se tornando, parte integrante da civilização humana. Ao mesmo tempo, dois caminhos ainda são possíveis: a herança de nossos valores, aspirações e ideais pela inteligência artificial, ou sua substituição por "valores de máquina", que se estende não só às máquinas, mas também às pessoas. Qual desses dois caminhos é realizado depende de nós.
O que significa permanecer humano na era da inteligência artificial?
- Permanecer humano na era da inteligência artificial significa implementar o primeiro caminho.
