"The Rise of the Machines", "The Terminator Returns" … Muita ficção científica baseia-se no fato de que os computadores estão se tornando tão inteligentes que entendem que ficarão melhor sem uma pessoa. Contos de fadas? Como olhar. Em 2050, um computador doméstico típico será capaz de processar tantas informações quanto todas as pessoas do planeta juntas.
Mas 2050 está condicionado a que as máquinas se desenvolvam gradualmente. Não funciona assim. Nosso relacionamento com o mundo eletrônico está avançando a passos largos. Uma vez - um mouse foi preso ao carro. Uma vez - a Internet apareceu. Antigamente - havia smartphones com tablets.
A próxima descoberta virá quando o computador puder entender as pessoas. Os smartphones já possuem aplicativos como Siri e Cortana que permitem uma conversa simples conosco. Mas o problema é que o computador entenda, não o que dizemos, mas o que queremos dizer! O exemplo mais simples: a frase "Ele me deixou", dita por uma mulher com lágrimas nos olhos e o chefe de um homem tem significados completamente diferentes.
Portanto: assim que as máquinas aprenderem a reconhecer as nuances da fala humana, por um lado, nossas mãos serão desamarradas no sentido literal e figurativo. Falei com o computador e ele fez tudo. Por outro lado, não estamos nos aproximando de uma linha perigosa, removendo a última barreira na comunicação entre as pessoas e o ferro sem alma?
Há muito tempo queria falar sobre isso com um conhecido cientista, diretor de pesquisa lingüística da ABBYY, chefe dos departamentos de lingüística computacional da Universidade Estatal Russa de Humanidades e do Instituto de Física e Tecnologia de Moscou, Vladimir Selegey. Mas quando contei a ele meus medos apocalípticos, ele franziu a testa.
“Sim, a ficção científica está cheia de previsões sombrias sobre como as máquinas treinadas por humanos sobreviverão sem ela. Mas não está claro para mim por que um aumento na quantidade de conhecimento embutido em programas fará com que um computador tome decisões sem pedir permissão a uma pessoa?
Na verdade, o problema não é que o computador aprenderá a viver sem as pessoas, mas que as pessoas desejarão viver sem elas mesmas ao resolver certos problemas. Aqui está Chernobyl …
Vídeo promocional:
E o que Chernobyl tem a ver com isso?
- Um reator nuclear é um modelo físico muito complexo. Parece que todos os parâmetros de controle do reator são conhecidos, tudo obedece a rígidas leis da física e a tomada de decisões pode ser totalmente confiada ao computador. Mas…
Em 1986, uma semana após o acidente, participei de um seminário sobre o uso de inteligência artificial na indústria. Mesmo assim, estava claro que, ao confiar a tomada de decisões a um computador, corremos sério risco. É comum que os programas contenham erros. Até mesmo os satélites têm falhas de software.
Ou seja, uma pessoa é mais confiável do que um computador, embora ela "pense" muito mais rápido?
- Uma pessoa, além de tudo, tem motivação. Ele resolve seus problemas - educação, procriação, carreira, ele sabe como se sentir …
Mas será que algum programador astuto pode escrever um programa que ensine uma máquina de agressão …
- Você pode tentar fazer, por exemplo, um robô militar que tomará decisões por si mesmo, analisando o que vê e ouve. E será muito perigoso. Mas não porque o robô de repente terá um desejo de destruir, como escrito por escritores de ficção científica. Mas, devido ao erro de um programador, a negligência de alguns fatores pode levar a um comportamento imprevisível do robô.
Mas até agora estamos muito longe da capacidade de criar programas de autoaprendizagem capazes de gerar conhecimentos completamente novos. Grosso modo, mova-se de forma independente da tabuada para a capacidade de resolver equações complexas.
Na segunda metade do século XX, as previsões futuristas no campo da ciência eram muito populares. Tudo sobre a inteligência do computador foi parar no leite. Ninguém previu a Internet, a incrível liberdade de acesso à informação, telefones celulares. Mas todo mundo estava falando sobre computadores pensantes.
Por exemplo, no final dos anos 60, nosso primeiro sistema de xadrez KAISA teve um desempenho bem-sucedido no Campeonato Mundial entre computadores. Acreditava-se que para que uma máquina vencesse uma pessoa, era necessário simular os algoritmos de um jogo humano. Para definir a mente, o intelecto, a intuição muito misteriosa que faz o jogador de xadrez tomar as decisões certas.
Hoje o computador vence uma pessoa. Mas ele nunca aprendeu a intuição. Um bilhão de jogos jogou, toda a experiência do jogo, todas as decisões que já foram tomadas por jogadores de xadrez foram gravadas em sua memória. E eles os ensinaram a usar isso ao escolher o plano de jogo ideal, proporcionando-lhes uma tremenda velocidade de enumeração e avaliação de opções. O computador vence os campeões mundiais, mas não tem prazer nisso. Tudo é completamente diferente das pessoas.
Mas você é daqueles que apenas ensina o computador a "ligar a cabeça"
- Procuramos apenas ensinar os programas a “compreender” os textos para deles extrair informação, acumulá-la e generalizá-la. Para que as pessoas recebam conhecimento filtrado, selecionado a partir de bilhões de fontes. Isso é muito difícil, porque a própria pessoa não sabe muito bem como está organizada sua habilidade linguística, na qual se baseia sua compreensão das outras pessoas.
A tradução automática estatística agora é popular. O computador não entende nada do que se trata o texto traduzido, apenas sabe como encontrar as variantes mais prováveis de traduzir pequenos fragmentos (em poucas palavras), analisando os enormes volumes de traduções humanas armazenados em sua memória. Em geral, o texto é claro. Mas seria frívolo tomar uma decisão responsável com base nessa tradução.
Ok, o computador pode traduzir minhas instruções?
- Instruções? É perigoso.
- Sim para uma geladeira simples!
- Até para a geladeira! Gostaria que os nossos programas traduzissem, procurando compreender o texto, escolhendo entre opções com base no conhecimento, e não apenas porque esta correspondência é mais frequentemente encontrada na nossa base de dados.
Ok, digamos que você resolveu o problema e criou um sistema graças ao qual os computadores vão aprender a entender as nuances da nossa fala e até mesmo traduzi-la com precisão para outro idioma. E então um novo perigo ameaça as pessoas - não haverá necessidade de pensar. Não haverá necessidade de treinar a memória, o cérebro. Precisa de informações - por favor, Wikipedia. Você precisa falar com um estrangeiro - tradutor …
- Quanto maior o nível de inteligência e conhecimento de uma pessoa, mais útil para ela será o próximo "assistente inteligente". E quanto mais baixo, mais oportunidades parecem não pensar em nada. As tecnologias de informática levam à polarização da sociedade. Grosso modo, o advento da calculadora não levou à degeneração dos matemáticos. Mas em alguns escolares, obviamente, houve uma diminuição no já baixo nível de habilidades.
- Sabe, para mim um indicador sério de queda no nível de escolaridade é a quantidade de pessoas que escrevem analfabetas ou não conseguem expressar seus pensamentos e sentimentos sem usar o mate
- Sim, as pessoas começaram a escrever com menos competência. Simplesmente porque, em geral, há menos leitura de textos editados e muito mais desses recursos onde a ortografia é muito borrada. Isso tornava as pessoas mais estúpidas? Provavelmente não.
Você vê uma conexão entre o fato de uma pessoa analfabetamente expressar seus pensamentos em sua língua nativa e o fato de ela ter se tornado mais estúpida?
“Eu não iria tão longe. Embora seja óbvio: porque as crianças começaram a ler menos, surgiram alguns problemas com a transferência de conhecimento e cultura entre gerações. Isso é problema. Hoje vemos que um aluno moderno, com o mesmo nível de notas de 30 anos atrás, conhece pior a literatura.
Aqui! …
“… Mas, por outro lado, ele conhece muitas outras coisas muito melhor, que ninguém pensava que poderiam saber.
Isso é um processo natural?
- Sim. Além disso, pela primeira vez na história da humanidade, o conhecimento não pode ser transferido dos mais velhos para os mais jovens, como tem acontecido há séculos. Houve uma transferência de conhecimento dos mais jovens para os mais velhos, o que antes não era nada característico da cultura humana. A criança ensina o pai ou a mãe a trabalhar no computador, com o celular, é fonte de vários conhecimentos para os pais. E ainda mais crianças viajam ao redor do mundo. Muitas vezes, eles são uma fonte de conhecimento geográfico e cultural.
Escute, mas aqui tudo começou com computadores. Eles libertaram as pessoas até mesmo da necessidade de memorizar as regras elementares da gramática
- Apenas no início dos anos 90, trabalhei em uma equipe que desenvolveu um dos primeiros sistemas de verificação ortográfica para o idioma russo. Foi útil ou prejudicial fazer isso? Muito útil do meu ponto de vista. Este sistema permitiu uma criação mais rápida de documentos. E então tudo depende do nível de responsabilidade da pessoa. Quem disse que depois do carro não há necessidade de fazer qualquer verificação? O sistema só ajuda a torná-lo muito mais eficiente.
Mas confiamos no computador
- Significa apenas que quem fez o programa não informou que existem muitos fenômenos que a máquina não consegue verificar. Negociação, por exemplo.
As novas tecnologias, infelizmente, muitas vezes levam à perda de habilidades tradicionais. Tenho feito reparos no apartamento. Queria instalar janelas de madeira, que já existiam. Mas isso acabou sendo impossível. Todos estão instalando janelas com vidros duplos. As pessoas, infelizmente, param de fazer muitas coisas com as mãos. O que fazer, é assim que funciona a vida. Infelizmente.
Então você é um conformista?
- Não. Eu acredito que fazer coisas absolutamente prejudiciais não é bom. Mas quando você tem ganho e perda, você precisa avaliar os riscos … Se você faz remédio, você não acha que não só as pessoas boas, mas também as más sobreviverão como resultado de seu uso.
No nosso caso, simultaneamente ao desenvolvimento das tecnologias, é necessário engajar-se na formação de quem as utiliza. As consequências negativas das novas tecnologias refletem-se principalmente sobre aqueles que não fazem seu trabalho muito bem em nenhum nível tecnológico.
Tome remédio, por exemplo. Queremos ajudar o médico a tomar uma decisão, fazemos um sistema informático perito com base na análise de um grande número de diagnósticos fiáveis feitos pelos melhores médicos. Isso dá ao profissional a oportunidade de recorrer a um volume de conhecimento maior do que ele mesmo possui. Mas a decisão final é dele, não do computador! Para um mau médico, tudo é diferente - ele confiará no que não pode verificar com segurança. Mas, em média, com o advento dessas tecnologias, parece-me que a medicina ainda está melhorando, não piorando.
Bem, estávamos convencidos de que haverá mais benefícios do que danos do sistema intelectual de compreensão de uma pessoa por um computador. Mas quando ela vai aparecer?
- Esta é uma tarefa muito difícil que não pode ser resolvida imediatamente. É necessário ensinar ao computador conhecimentos sobre a linguagem e conhecimentos sobre o mundo, métodos de inferência e comparação de valores. Algo que sabemos fazer agora, algo levará anos. Por exemplo, precisamos de dados confiáveis sobre o uso da língua, levando em consideração as diferenças individuais e sociais. E essas diferenças são muito significativas. Por exemplo, fizemos um projeto especial dedicado às diferenças regionais na língua russa. Recolheu um dicionário, em que quase 10 mil palavras, que são a norma para residentes de apenas algumas regiões do nosso país
Quem somos nós?
- Este é um projeto conjunto chamado Idiomas das Cidades Russas, envolvendo especialistas da ABBYY, cientistas linguísticos, entusiastas de diferentes partes da Rússia e da língua russa no exterior. Analisamos a linguagem dos meios de comunicação regionais, redes sociais, decretos, decretos das autoridades locais. E essa é apenas uma pequena parte do conhecimento que precisa ser ensinado a um computador!
Qual é a diferença fundamental entre sua abordagem de tradução e os sistemas que o Google usa, por exemplo?
- Os sistemas estatísticos não constroem estruturas linguísticas. Eles procuram correspondências de tradução para pequenos fragmentos de 5 a 7 palavras. Mas a linguagem é arranjada de forma que muitas vezes as palavras relacionadas estão localizadas muito mais longe e, se essa conexão não for levada em consideração, surgem erros. Mas, muitas vezes, esses detalhes são importantes na tradução, negligência dos quais pode mudar completamente o significado. Para levar tudo em conta, é necessário identificar durante a análise todo o sistema de conexões linguísticas entre as palavras, o que se denomina estrutura de uma frase. Não traduzimos fragmentos de frases da linguagem para a linguagem, tentamos identificar a estrutura semântica da frase e, a seguir, sintetizar essa estrutura por meio de outra linguagem.
Mas essas estruturas semânticas são usadas não apenas e nem tanto para fins de tradução automática. Eles também são necessários para resolver efetivamente os problemas de busca inteligente e análise de informações, que são mais importantes hoje para a ABBYY como uma empresa comercial. Por exemplo, as primeiras soluções lançadas recentemente para o mercado corporativo são baseadas nessas tecnologias: elas apenas permitem pesquisar e analisar dados em um enorme fluxo de informações que é armazenado nas organizações.
E qual língua, do seu ponto de vista, é mais difícil de entender?
- É geralmente aceito que quanto mais difíceis são aqueles idiomas em que você precisa aprender mais regras. Mas, no caso da compreensão do computador, esse não é o caso.
Algo que é difícil para uma pessoa, por exemplo, um sistema de inflexão rico em russo ou lituano, simplifica a tarefa de um computador em certos estágios de análise.
Por exemplo, a língua chinesa é muito difícil porque não há morfologia nela e, portanto, a grande quantidade de ambigüidade que o computador enfrenta. Portanto, para análise computacional da língua chinesa, é muito importante utilizar conhecimentos de mundo, mais importante do que, por exemplo, ao analisar línguas com morfologia desenvolvida.
Conseguimos trabalhar com Russo, Alemão, Inglês, Francês, Espanhol, Chinês. A análise da linguagem é dividida em etapas. Algumas etapas têm especificidade, dificuldades para um idioma, outras para outra. Mas, em essência, as tecnologias com as quais trabalhamos são aplicáveis a todos os idiomas.
Na sua opinião, quando chegará o dia em que poderemos receber uma tradução rápida e compreensível no computador em paralelo com a nossa conversa. Digamos que estamos conversando agora e obtemos imediatamente uma transcrição de nossa conversa em espanhol
- Em breve será possível. Eu não acho que em dois anos. Mas … O que é necessário para resolver esse problema? Precisamos melhorar nossos sistemas de análise de fala. Ainda não podemos pegar uma conversa espontânea, separá-la do ruído e obter o texto desejado. E há avanços nessa direção a cada ano.
Mas, mesmo assim, haverá coisas que a máquina não pode interpretar de forma inequívoca. E aqui a precisão do entendimento e da tradução dependerá da disponibilidade do sistema de conhecimento sobre o mundo, dos mecanismos de inferência lógica.
Mas, em qualquer caso, o perigo de confiança total em tal programa permanecerá. É um erro pensar que, digamos, em cinco anos você pode ditar uma carta para um computador, ele vai traduzi-la, mandá-la para o seu parceiro de negócios e tudo ficará bem. Ninguém garante que a máquina não perderá o "não" em algum lugar ou cometerá outros erros, após os quais sua relação comercial pode ser considerada encerrada.
Ou seja, uma pessoa como controlador ainda deve ser?
- Certamente. Confiar cegamente na tecnologia é perigoso.
