A criação de um ambiente ético para o desenvolvimento dessas tecnologias deve ser baseada no "centrismo humano", acredita o cientista russo Maxim Fedorov.
Participantes do grupo internacional de especialistas da UNESCO, que desenvolve padrões éticos para o campo das tecnologias de inteligência artificial (IA), durante as discussões, chegaram à opinião comum de que a monopolização é inaceitável nessa área. Isso foi dito à TASS pelo representante da Federação Russa no grupo, diretor do Centro de Tecnologias de Computação Científica e de Engenharia para Problemas com Grandes Conjuntos de Dados do Instituto Skolkovo de Ciência e Tecnologia Maxim Fedorov.
Um grupo especial de especialistas (Grupo de Especialistas Ad Hoc da UNESCO, AHEG) formado após os resultados da 40ª sessão da Conferência Geral da UNESCO, que, juntamente com representantes dos EUA, Canadá, Grã-Bretanha, países da UE, China e outros países, incluindo um cientista russo, começou em abril trabalhar na resolução de possíveis controvérsias éticas no campo da inteligência artificial. Como resultado, os especialistas que trabalham no modo de comunicação da conferência (cerca de 20 especialistas) devem formar a base de um documento normativo da UNESCO com recomendações nesta área.
“A questão é que a inteligência artificial não deve ter um único dono. Não deve haver monopólio - nem para o país, nem para a empresa, nem para indivíduos. Isso está correto em vários aspectos, e agora há acordo sobre esse assunto no grupo de especialistas da UNESCO. Porém, nessa área, longe de tudo ser simples, a questão do controle surge imediatamente e pode ocorrer uma inflexão na outra direção”, disse Fedorov.
Ele também disse que agora na plataforma da ONU para educação, ciência e cultura, eles buscam respostas para as questões do que fazer com os monopólios tecnológicos de fato já existentes no mundo e quais deveriam ser os mecanismos de proteção contra a monopolização da esfera da inteligência artificial. Sobre estas e outras questões, a posição dos representantes russos e de vários outros países é baseada nos princípios da prioridade incondicional dos interesses humanos, segurança e liberdade de escolha, acrescentou.
IA como membro da sociedade
Durante a discussão de um único conceito ético para as tecnologias de inteligência artificial, vários especialistas, referindo-se às abordagens de alguns países do Leste Asiático, propuseram conferir à inteligência artificial o status de "quase-membro da sociedade", como uma entidade legal, com seus próprios direitos e obrigações.
Vídeo promocional:
“Este assunto é muito perigoso. Ou seja, a IA é criada como uma nova entidade que vive por si mesma, mas tem direitos - como membro da sociedade. Discutimos muito o que é razão, consciência e inteligência neste contexto, mas mesmo assim conseguimos voltar a discussão para o fato de que o sujeito da sociedade pode ser alguém que pode sofrer: uma pessoa pode, mas um algoritmo não. Esses pensamentos também podem ser rastreados nas obras do visionário Yuval Noah Harari ", disse Fedorov, acrescentando que, juntamente com a Rússia, vários especialistas se opuseram à criação de um" quase-membro da sociedade "com referências a documentos regulamentares já adotados no campo da IA, incluindo aqueles dentro da UE.
A criação de um ambiente ético para o desenvolvimento de tecnologias de inteligência artificial deve ser baseada no “centrismo humano”, no qual a criação de certos tipos de inteligência artificial ou simbiótica seria estritamente proibida, como a clonagem de pessoas, está convencido o cientista russo.
Responsabilidade
Os debates também sugerem que robôs e algoritmos recebam “responsabilidade pessoal” para que a máquina ou sistema que comete um erro possa ser “punido”.
“O truque aqui é que quem vendeu o robô dá lucro, quem usa, na verdade, também ganha. E se o robô comete um erro que acarreta vítimas e perdas, então parece que a culpa não é de ninguém - vamos punir o robô. Mas alguém fez e comprou. Acontece que os fabricantes não querem assumir a responsabilidade e realmente transferi-la para os usuários do sistema”, continuou o especialista.
Por exemplo, ao usar um programa adquirido, o usuário não poderá solicitar suporte técnico em caso de erros. Em vez disso, o fabricante simplesmente removerá o produto defeituoso do disco como uma "punição", explica a fonte da TASS.
Acesso à IA - um dever ou um direito?
Outro tópico de discussão é a capacidade das pessoas de acessar a infraestrutura de inteligência artificial. Alguns especialistas propõem conceder o direito de uso de tais sistemas a todas as pessoas na Terra. No entanto, Maxim Fedorov vê nisso uma ameaça de impor tecnologia às pessoas contra sua vontade.
“Agora, meus colegas e eu parecemos ter chegado a uma opinião comum de que a escolha de vida (escolha de vida, inglês - nota TASS) é assunto de cada pessoa individualmente. Devemos respeitar os direitos das pessoas, que, aliás, não são obrigadas a explicar por que não querem usar algoritmos”, disse Fedorov, citando como exemplo os representantes amish dos seguidores protestantes de Jacob Amman nos Estados Unidos que não usam gadgets, Internet e até eletricidade.
“Acredito que as pessoas devem ter o direito de acessar a tecnologia, mas também devem ter o direito de escolher e ser membros plenos da sociedade sem usar essas tecnologias. Por quê? Alguém - devido à idade, alguém devido a crenças religiosas, alguém devido à experiência e outras circunstâncias. Mas essa é uma questão muito delicada, porque estamos manobrando entre a acessibilidade, que os países em desenvolvimento podem não ter, e “enganchar” todas as pessoas em um determinado produto em outros países”, acrescentou.
Impacto no meio ambiente
Os participantes da discussão também consideram as perspectivas de desenvolvimento de tecnologias de inteligência artificial e o impacto desse processo no meio ambiente, tendo em vista os crescentes custos de energia e volumes dos componentes da infraestrutura. O representante da Rússia não descartou a possibilidade de, no futuro, assinar um análogo do Protocolo de Kyoto no site da UNESCO, o que limitaria o impacto negativo no meio ambiente.
“Até que ponto isso afetará a Rússia é uma questão ambígua. Em termos de desenvolvimento de infraestrutura, nosso país ainda não atingiu o nível médio mundial de equipamentos, mas o mundo está mudando. Em princípio, temos tudo em ordem com os portadores de energia, existem muitos territórios “frios” para colocar supercomputadores e centros de processamento de dados”, explicou o especialista.
Espera-se que um documento normativo baseado em descobertas de especialistas seja adotado pela UNESCO em 2021.
