Mikhail Burtsev, chefe do laboratório de sistemas neurais e aprendizagem profunda do Instituto de Física e Tecnologia de Moscou, fala sobre se é possível criar um computador análogo completo da mente humana e explica por que os cientistas estão desenvolvendo-o e como protegê-lo de ataques de trolls.
No final de julho, cientistas do MIPT lançaram um concurso internacional para sistemas de inteligência artificial “falados” capazes de imitar uma pessoa viva, e convidaram todos a conversar com eles e avaliar os diálogos resultantes. Usando a ajuda de voluntários, os cientistas esperam criar um assistente de voz nos próximos três anos que possa se comunicar com uma pessoa quase tão bem quanto com um interlocutor vivo.
A competição foi co-organizada por cientistas das universidades de Montreal, McGill e Carnegie Mellon. Você pode participar do teste de sistemas de diálogo seguindo o link.
Na verdade, essas ideias não foram inventadas hoje - assistentes de voz modernos do Google, Apple, Amazon e outras empresas de TI estão enraizados no passado remoto, no início da era do computador. A primeira máquina falante, chamada ELIZA, foi criada em 1966 e era, na verdade, uma piada, uma paródia de um psicoterapeuta dando conselhos inúteis a um paciente.
Nos anos e décadas subsequentes, os programadores criaram sistemas cada vez mais complexos e "vivos" para se comunicar com um computador. O mais avançado desses sistemas pode reconhecer o humor do proprietário, lembrar seus antigos desejos e preferências e resolver algumas das tarefas rotineiras e domésticas para ele, pedindo comida ou mercadorias na loja ou desempenhando o papel de um operador em call centers.
Mikhail, quase 50 anos se passaram desde a criação da ELIZA. O que mudou em geral durante este tempo e pode, em princípio, esperar que no futuro os cientistas sejam capazes de criar um sistema que as pessoas não podem distinguir de um interlocutor vivo?
- Acho que em um futuro próximo será possível criar uma tecnologia de inteligência falada que permitirá que a máquina se aproxime do nível do diálogo humano. Estamos trabalhando nessa tarefa dentro do projeto iPavlov, que faz parte da National Technology Initiative.
O usuário deve se sentir tão confortável ao se comunicar com um sistema de diálogo automático quanto com uma pessoa viva. Isso possibilitará criar sistemas de informação capazes de entender melhor o que uma pessoa quer deles e responder a ela em linguagem natural.
Vídeo promocional:
A inteligência de conversação pode ser usada para automatizar muitas interfaces de voz e texto, incluindo mensageiros como o Telegram. Os mensageiros, como mostram as estatísticas, hoje são usados de forma mais ativa do que as redes sociais, e uma quantidade muito grande de informações passa pelos canais de comunicação de texto.
Por exemplo, eles são convenientes para uso no transporte, e a adição de um assistente interativo - um bot de bate-papo - permitirá que os usuários não apenas se comuniquem entre si, mas também recebam as informações necessárias, façam compras e muitas outras coisas. Isso levará ao fato de que mensageiros instantâneos e assistentes de voz substituirão gradualmente as páginas e aplicativos usuais da Web, e também desempenharão o papel de consultores online e especialistas em call center.
Dada a presença da Apple, Google e Amazon neste mercado, a Rússia pode competir aqui? Existe alguma especificidade na língua russa que poderia impedir concorrentes potenciais de empresas e cientistas russos?
- Claro, a língua russa é mais complexa, e alguns dos métodos que são usados hoje no desenvolvimento de sistemas de diálogo e assistentes de voz no mundo não podem ser aplicados sem refinamento e modificações significativas que lhes permitiriam trabalhar com uma gramática mais rica.
Por outro lado, os algoritmos básicos utilizados no trabalho de Siri, Cortana, Google e outros assistentes digitais, ninguém esconde - estão à nossa disposição pelo menos ao nível da investigação e dos conceitos. Os artigos de pesquisa e o código do programa estão frequentemente disponíveis ao público - em princípio, podem ser adaptados para o russo.
Mikhail Burtsev, Chefe do Laboratório de Sistemas Neurais e Aprendizagem Profunda, MIPT
Além disso, não há muitas tentativas de implementar isso no nível "industrial". O único grande projeto é executado pela Yandex, que está desenvolvendo um assistente para o projeto Alice.
Em nosso projeto, estamos tentando criar ferramentas que simplifiquem e acelerem a criação de tais sistemas de diálogo "industriais" projetados para uma variedade de propósitos. Mas desenvolver um assistente de voz universal capaz de resolver qualquer problema é uma tarefa extremamente difícil, mesmo para grandes empresas.
Por outro lado, automatizar uma pequena empresa que usará um sistema de diálogo especializado é muito mais fácil de implementar. Esperamos que as ferramentas que iremos criar ajudem os empreendedores e programadores a resolver tais problemas com rapidez, sem ter nenhum conhecimento profundo e sem aplicar super esforços para isso.
Muitos cientistas, como Roger Penrose ou Stuart Hameroff, acreditam que a mente humana é de natureza quântica e que é impossível construir uma máquina análoga em princípio. Você concorda com eles ou não?
- Na minha opinião, se você olhar o que sabemos hoje sobre a estrutura do cérebro e a natureza da consciência humana, então até agora não temos obstáculos fundamentais para reproduzir seu trabalho usando um computador.
Penrose e Hameroff têm um conjunto de hipóteses que acreditam explicar por que isso não pode ser feito. Até agora, os neurofisiologistas não encontraram nenhuma evidência experimental de que essas hipóteses sejam corretas, e nossa base de conhecimento atual fala a favor do oposto.
Outra coisa é que o prazo para quando essa máquina será criada permanece não totalmente definido. Parece-me que isso pode acontecer em pelo menos 50, ou mesmo 100 anos.
Isso exigirá fundamentalmente novas tecnologias e computadores que estão mais próximos em seus princípios de operação dos neurônios do que da lógica digital?
- Se acreditarmos que a inteligência humana é baseada em alguma forma de computação, então qualquer sistema de computação universal equivalente a uma máquina de Turing pode, em teoria, emular o trabalho do cérebro humano.
Outra coisa é que essa máquina pode rodar muito devagar, o que a tornará inútil do ponto de vista prático. Hoje é difícil adivinhar quais tecnologias para construir computadores precisaremos aqui.
Que outras tarefas os assistentes digitais podem resolver além das coisas que eles fazem hoje? Eles podem ser usados para decifrar textos em línguas mortas ou criptografias como o manuscrito Voynich?
- No momento, que eu saiba, ninguém tentou usar redes neurais para desvendar os segredos de línguas mortas e decifrar textos, mas me parece que alguém tentará fazer isso em um futuro próximo. Nós, por sua vez, ainda não nos interessamos por essas coisas.
"Helper" é na verdade um conceito muito amplo que pode incluir muitas coisas diferentes. Se tomarmos, por exemplo, a mesma ELIZA, uma “psicoterapeuta” virtual, surge a pergunta: é assistente ou não?
Os sistemas de diálogo podem ser usados não apenas para resolver problemas práticos, mas também para entreter as pessoas ou manter seu humor. A questão aqui, na verdade, é o que queremos dizer com o conceito de assistente pessoal e quão amplo ou restrito ele é. No sentido mais amplo, tais sistemas podem resolver todos os problemas relacionados à comunicação, embora com graus variados de sucesso.
As interfaces de conversação, além da comunicação direta com as pessoas, também podem ser usadas para ensinar as máquinas a encontrar rapidamente um idioma comum e transferir informações de um sistema para outro.
Isso contornará o problema de estabelecer links e transferir dados entre serviços existentes e criados, uma vez que eles não precisarão conhecer as especificações de API uns dos outros para se comunicarem. Eles poderão trocar dados usando linguagens naturais ou sua própria linguagem artificial que será inventada por máquinas ou humanos para tais fins.
Grosso modo, mesmo os sistemas "não familiares" entre si serão capazes de concordar em usar uma linguagem comum de comunicação para eles, e não regras fixas para troca de informações. Se eles não entendem algo, podem perguntar uns aos outros sobre coisas desconhecidas, o que tornará toda a infraestrutura de prestação de serviços e serviços na Internet incrivelmente flexível e permitirá a integração rápida de novos serviços sem a ajuda de pessoas.
A este respeito, coloca-se a questão - quem deve ser responsável pelas recomendações do “psicoterapeuta” ELIZA, dos médicos informáticos e outros auxiliares de voz, cujo aconselhamento pode afetar fortemente o bem-estar e a saúde de uma pessoa?
- Essa é uma pergunta muito difícil, pois hoje não existem critérios claros que nos ajudem a entender como agir nesses casos. Muitos serviços e serviços de Internet que emitem recomendações aos usuários começam a funcionar somente depois que o usuário concorda com os termos de serviço e as consequências que podem surgir como resultado de trabalhar com ele.
Parece-me que o trabalho dos bots de bate-papo e assistentes de voz - pelo menos nos primeiros estágios de sua existência - poderia ser regulamentado de maneira semelhante. Por exemplo, se um bot simplesmente pesquisa e analisa informações, agindo da mesma forma que um mecanismo de pesquisa, as mesmas regras podem ser aplicadas a ele. Caso venha a prestar aconselhamento médico ou jurídico, a forma de responsabilidade deve ser diferente.
Por exemplo, tais sistemas devem notificar claramente o usuário sobre as consequências da escolha entre inteligência artificial e um médico comum. Uma pessoa terá uma escolha - confiar no médico, que errará, por exemplo, em 10% dos casos, ou apostar em uma máquina que dá a resposta errada em 3% dos casos. No primeiro caso, o médico será o responsável pelo erro e, no segundo, o próprio usuário.
No ano passado, a Microsoft lançou o chatbot Tay. AI, que teve que ser desligado literalmente um dia depois devido ao fato de que os internautas transformaram uma “adolescente” em um verdadeiro racista. É possível proteger esses sistemas de diálogo de trolls e brincalhões?
- Parece-me que você pode se defender, mas se vale a pena fazer isso depende da finalidade do sistema. É claro que se o sistema não fizer comentários específicos - rudes ou extremistas, podemos filtrar suas respostas. Essa filtragem pode ocorrer tanto na fase de treinamento do sistema, quanto já durante a geração das respostas.
A propósito, uma tarefa semelhante de avaliar a qualidade do diálogo foi resolvida por equipes dentro da estrutura da escola-hackathon científica DeepHack Turing, que aconteceu no MIPT algumas semanas atrás. Seus participantes desenvolveram algoritmos que podiam prever, a partir das dicas do diálogo, que tipo de avaliação uma pessoa daria ao sistema de diálogo.
A próxima etapa no desenvolvimento dessa abordagem é a criação de um programa que avalia a aceitabilidade das frases ou a confiabilidade das fontes usadas para gerar respostas às consultas do usuário. Parece-me que ajudaria a resolver este problema.
