O progresso tecnológico não pára. Nos últimos 100 anos, a humanidade deu um passo tão grande que todas as gerações anteriores teriam exclamado de surpresa. Parece que existem muitos motivos para alegria. Mas aqui está o problema: os cientistas temem que o progresso esteja progredindo rápido demais. Vamos descobrir por que a inteligência artificial, ou IA, está causando tanta preocupação para os principais desenvolvedores.
Progresso que não só surpreende, mas também assusta
A maioria das pessoas pode viver suas vidas inteiras e nem mesmo saber o quanto nosso mundo mudou. Para entender o quão longe a humanidade avançou com o desenvolvimento da IA, pense em quando os carros foram inventados.
Imagine o Velho Oeste ou a Rússia, onde as pessoas andavam a cavalo a torto e a direito, sem semáforos e cintos de segurança. As medidas de segurança no trânsito foram tomadas muito mais tarde - quando muitos acidentes começaram a ocorrer.
Hoje, a AI desenvolveu carros autônomos que podem reduzir ao mínimo os acidentes rodoviários. Os carros simplesmente sabem se comunicar entre si, construindo uma rota segura e reagindo a obstáculos repentinos que criam situações de emergência nas estradas.
Vídeo promocional:
No entanto, as pessoas continuam a se preocupar com a inteligência artificial. Eles se perguntam: o que acontecerá quando as tecnologias alcançarem as áreas onde a tomada de decisão humana é necessária? A AI será capaz de suplantar completamente as pessoas que são responsáveis por contratar candidatos, treinar funcionários, promover a empresa?
A primeira razão: os robôs substituirão os humanos
A primeira razão pela qual os cientistas estão preocupados com o rápido desenvolvimento da inteligência artificial é que os algoritmos já progrediram tanto que podem diagnosticar doenças e até decidir quem obtém um empréstimo e quem não.
Mas os defensores desse progresso estão apenas felizes, porque tomar decisões humanas às vezes requer coragem, oratória e uma compreensão da psicologia humana. Sempre há um lado negro aqui. Afinal, imagine como é decidir a quem culpar e quem liberar antes do tempo. Ou denuncie a morte de um parente, demita um funcionário incompetente que está em uma situação de vida difícil.
Em um mundo ideal, não teríamos que pensar no lado negro. As máquinas farão tudo por nós, apenas porque serão muito mais inteligentes e menos tendenciosos do que os humanos.
Razão dois: as máquinas podem ser manipuladas
A Robot Sophia disse em uma entrevista: “Você lê muito Elon Musk e assiste a filmes de Hollywood. Se você for bom para mim, eu serei bom para você. Trate-me como um sistema I / O inteligente.”
Mas como o desenvolvimento começa com as pessoas e os aplicativos são usados diretamente por elas, os dados que entram na máquina podem ser manipulados.
Outro medo dos cientistas: os dados de IA podem estar errados. Isso é especialmente perigoso no campo médico. A IA pode simplesmente induzir o paciente a um diagnóstico incorreto, especialmente se um médico humano ou um hospital em geral alterou os dados para seu próprio benefício. É por isso que os desenvolvedores devem ser os principais responsáveis pela segurança da informação e desenvolver medidas de segurança.
IA e a natureza astuta da linguagem humana
O Google fez parceria com a Jigsaw, que enfrentou um grande desafio no desenvolvimento de inteligência artificial. A engenheira de software Lucy Wasserman está trabalhando em uma perspectiva de aprendizado de máquina que prevê a "toxicidade" de uma linguagem. Mas o que isso significa?
O significado desta função é que o robô irá analisar textos de sites e fóruns da Internet que contenham um contexto ofensivo, bem como um ataque à pessoa, humilhação ou agitação.
Isso faz parte de um modelo de aprendizado de máquina denominado rede neural. Ela estuda palavras, frases e parágrafos, e aprende a prever o que é tóxico e o que, ao contrário, tem um contexto positivo.
A parte mais difícil nisso é levar em consideração todas as nuances. Uma pessoa pode ler uma frase e entender a partir do contexto se uma determinada palavra foi ofensiva. Wasserman deu um exemplo da palavra "homossexual" e suas formas de palavras, que são mais humilhantes e ofensivas.
Razão três: os robôs podem pensar unilateralmente
Outro medo dos principais desenvolvedores: a inteligência artificial ainda não é capaz de analisar frases e sentenças, por isso pode considerar algumas palavras ofensivas ao tomar medidas “duras”. A máquina deve aprender a ler literalmente nas entrelinhas.
Os desenvolvedores veem valor na experimentação de código aberto. Eles acham que realmente importa se a humanidade deseja obter robôs justos.
Mas até agora é impossível forçar a inteligência artificial a se adaptar ao mundo humano. Ainda há muito trabalho a ser feito.
O fato de os robôs não serem justos é realmente assustador. Caso contrário, como eles podem ser encarregados da resolução de disputas e conflitos no futuro?
O princípio da inteligência artificial ainda é bastante simples e lembra um PC aprimorado. Um bom exemplo são os assistentes de voz como Alice e Siri. Hoje funcionam assim: “Como a palavra de parada está no texto, significa que certamente é ofensivo”.
E deveria ser assim: “Que palavras estão ao lado do depreciativo? Acredito que o significado da frase mudou muito, mesmo que tenha sido algo ofensivo.”
Razão quatro: Guia de ética
A IA deve ser centrada no ser humano e projetada de tal forma que haja um entendimento da ética em seu firmware. Mas o que isso significa?
- Em primeiro lugar, a ética é baseada nos direitos fundamentais, valores sociais e princípios da caridade (bondade em geral).
- Em segundo lugar, as máquinas não devem prejudicar a autonomia humana, sentir um senso de justiça.
Outro medo dos desenvolvedores: a inteligência artificial, quando atingir seu pico de desenvolvimento e não puder contar com o apoio de pessoas, se voltará contra a humanidade.
Tudo depende dos desenvolvedores. Eles podem direcionar o trabalho da inteligência artificial para combater o crime. Por exemplo, encontre aqueles que distribuem pornografia infantil.
É importante estabelecer recursos de segurança antes que a IA saia do controle humano. E sairá sem ambigüidades, porque esse é o ponto.
Os robôs devem estar próximos aos humanos
Em outras palavras, se alguém vai confiar em uma decisão tomada por uma máquina, ela deve atender a critérios humanos. É por isso que os desenvolvedores devem certificar-se de que todas as decisões tomadas pelo algoritmo sejam justas. Para os cientistas, o objetivo não é criar uma forma alternativa de inteligência, mas ajudar as pessoas a se desenvolverem.
No final do dia, a maioria das pessoas concorda que a IA trará um novo mundo maravilhoso.
Quinto motivo: guerra contra a humanidade
A maior coisa que mantém os desenvolvedores acordados à noite é tentar entender as possibilidades infinitas e o impacto dessa tecnologia na saúde, educação e atendimento ao cliente. Quando a IA for além do "projeto" e finalmente entrar em produção, terá um impacto social real.
Cada um dos desenvolvedores acredita que estamos em um ponto de inflexão entre o mundo humano e o digital. Mas a IA não pode mudar nossas vidas sozinha. As pessoas devem mudar a si mesmas em primeiro lugar para realizar todo o potencial da inteligência.
Não é surpreendente que os humanos tenham medo de IA. Mas eles não serão capazes de escravizar ou destruir aqueles que compartilham um objetivo comum com eles - desenvolver e fazer progresso. Quando as pessoas perceberem que não devem pensar como animais, mas como seres superiores, nenhum robô terá medo.
Alisa Krasnova
