A ideia de que a inteligência artificial inevitavelmente nos levará a um cenário em que as máquinas se rebelem contra os humanos é bastante popular. A superinteligência artificial parece ser a maior ameaça possível, e as histórias fantásticas segundo as quais não seremos necessários em um mundo dominado pela tecnologia nunca perderam popularidade.
É inevitável?
O retrato literário e cinematográfico de sistemas de computador inteligentes da década de 1960 ajudou a moldar e resumir nossas expectativas para o futuro, à medida que embarcamos na jornada de criação de inteligência de máquina que ultrapassa a inteligência humana. A IA obviamente já ultrapassou os humanos em certas tarefas específicas que exigem computação complexa, mas ainda fica para trás em uma série de outras capacidades. Como aumentar simultaneamente o poder desta ferramenta dura e preservar nossa posição econômica sobre ela.
Como a inteligência artificial já desempenha e continuará a desempenhar um grande papel em nosso futuro, é imperativo explorar nossas possibilidades de coexistência com essas tecnologias complexas.
Kevin Abosch, fundador da Kwikdesk, uma empresa de processamento de dados e inteligência artificial, compartilhou suas idéias sobre isso. Ele acredita que a inteligência artificial deve ser rápida, discreta, confiável, letrada e ética. Sim, ético.
Quadro ético
Vídeo promocional:
O conceito de uma rede neural artificial, modelada a partir de uma rede neural biológica, não é nada novo. Unidades de poder de computação, chamadas neurônios, conectam-se umas às outras para formar uma rede. Cada neurônio aplica um algoritmo de aprendizagem sofisticado na entrada, antes de transmitir dados para outros neurônios, até que o neurônio na saída seja ativado e abra a possibilidade de leitura. Os sistemas especialistas contam com pessoas para “ensinar” o sistema, plantando as sementes do conhecimento. Os mecanismos lógicos procuram correspondências, fazem escolhas, definem regras se-isso-então-então para a base de conhecimento. Nesse processo, novos conhecimentos são adicionados à base de conhecimento. Uma rede neural pura aprende no processo de ganhar experiência não linear, não tem o problema de semear conhecimento por um especialista. Redes híbridas provaramque melhoram as capacidades de aprendizagem das máquinas.
Agora vamos examinar as questões éticas de tais sistemas. Mais longe da primeira pessoa.
"Código ruim" versus código bom
O autor usa palavras para mergulhar o leitor em um mundo ficcional, e o faz de maneiras diferentes, mas grandes autores o fazem com muita elegância. Um engenheiro de software escreve linhas de código que facilitam o processamento e a movimentação de dados. Ele também pode escolher entre várias opções de maneiras diferentes, mas os graciosos programadores são adeptos da ciência da computação. O codificador progressivo concentra-se em como encapsular o máximo e melhor possível em um código curto e organizado. O código redundante é reduzido ao mínimo. Um bom código também mantém a janela aberta para adições futuras. Outros engenheiros podem adicionar código com sua elegância inerente e o produto se desenvolve perfeitamente.
Qualquer produto feito pelo homem é baseado na intenção. As coisas feitas por pessoas estão saturadas de intenções e, em um grau ou outro, são portadoras da própria natureza do criador. Algumas pessoas têm dificuldade em imaginar um objeto inanimado dessa natureza. Mas muitos concordariam com isso. A energia das intenções existe há milhares de anos, unifica, divide, une, transforma a sociedade. Nem deve o poder da linguagem ser subestimado. Não se esqueça de que as linhas de código são escritas em uma linguagem de programação específica. Assim, estou convencido de que o código que se torna software usado em computadores ou dispositivos móveis está muito "vivo".
Sem considerar a sabedoria e a espiritualidade no contexto da ciência da computação e as consequências potenciais da inteligência artificial, ainda podemos ver o código estático como um todo com o potencial de "fazer o bem" ou "fazer o mal". Essas saídas só se encontram no processo de uso de aplicativos por pessoas. São as escolhas claras que as pessoas fazem que afetam a natureza do aplicativo. Eles podem ser visualizados em um sistema local, determinando o impacto positivo ou negativo naquele sistema, ou com base em um conjunto de padrões predefinidos. No entanto, assim como um jornalista não pode ser 100% imparcial no processo de redação de um artigo, um engenheiro, voluntária ou involuntariamente, adiciona a natureza de suas intenções ao código. Alguns podem argumentar que escrever código é um processo lógico e a lógica real não deixa espaço para a natureza.
Mas tenho certeza de que no momento em que você cria uma regra, um bloco de código, ou todo o código, tudo está imbuído de um elemento da natureza humana. Com cada regra adicional, a penetração da espécie se aprofunda. Quanto mais complexo o código, mais dessa natureza ele contém. Daí surge a pergunta: "A natureza do código pode ser boa ou má?"
Obviamente, um vírus desenvolvido por um hacker que, de forma maliciosa, rompe as defesas do seu computador e causa estragos em sua vida está saturado de uma natureza maligna. Mas e quanto a um vírus criado pelos mocinhos para se infiltrar nos computadores de uma organização terrorista para prevenir ataques terroristas? Qual é a sua natureza? Tecnicamente, ele poderia ser idêntico ao seu equivalente nefasto, apenas usado para "bons" propósitos. Então sua natureza é gentil? Esse é todo o paradoxo ético do malware. Mas não podíamos ignorar isso, pensando no código do "mal".
Em minha opinião, há códigos que gravitam inerentemente em direção ao "mal" e há códigos que são inerentemente tendenciosos para a boa vontade. Isso é mais importante no contexto de computadores offline.
No Kwikdesk, estamos desenvolvendo uma estrutura e protocolo de IA com base em meu design híbrido de sistema especialista / rede neural, que mais se assemelha a um modelo biológico. Os neurônios se manifestam como módulos de E / S e dispositivos virtuais (em certo sentido, agentes autônomos) conectados por "axônios", canais seguros e separados de dados criptografados. Esses dados são descriptografados à medida que entram no neurônio e após certos processos serem criptografados antes de serem enviados para o próximo neurônio. Antes que os neurônios possam se comunicar uns com os outros por meio de um axônio, deve ocorrer uma troca de chaves entre o participante e o canal.
Acredito que a segurança e a separação devem ser incorporadas a essas redes desde o nível mais baixo. As superestruturas refletem as qualidades de seus menores componentes, portanto, qualquer coisa menor do que os blocos de construção seguros resultará na operação insegura de toda a linha. Por esse motivo, os dados devem ser protegidos localmente e descriptografados quando transferidos localmente.
Implementação e garantias
A qualidade de nossa vida junto com máquinas que estão ficando cada vez mais inteligentes é compreensivelmente uma preocupação, e estou absolutamente confiante de que devemos agir para garantir um futuro saudável para as gerações vindouras. As ameaças às máquinas inteligentes são potencialmente diversas, mas podem ser divididas nas seguintes categorias:
Reserva. Nos locais de trabalho, as pessoas serão substituídas por máquinas. Essa mudança vem acontecendo há décadas e só vai acelerar. A educação adequada é necessária para preparar as pessoas para um futuro em que centenas de milhões de empregos tradicionais simplesmente deixarão de existir. É complicado.
Segurança. Contamos totalmente com as máquinas e continuaremos a contar. À medida que confiamos cada vez mais nas máquinas à medida que nos movemos de uma área segura para uma área de perigo potencial, podemos enfrentar o risco de erro de máquina ou código malicioso. Pense em transporte, por exemplo.
Saúde. Dispositivos de diagnóstico pessoal e dados médicos em rede. A IA continuará a evoluir em medicina preventiva e análise de dados genéticos de crowdsourcing. Novamente, devemos ter garantias de que essas máquinas não se envolverão em subversões maliciosas ou nos prejudicarão de alguma forma.
Destiny. A IA prevê com precisão crescente para onde você irá e o que fará. À medida que essa área for se desenvolvendo, ele saberá quais decisões tomamos, para onde iremos na próxima semana, que produtos compraremos ou mesmo quando morreremos. Queremos que outras pessoas tenham acesso a esses dados?
Conhecimento. As máquinas de fato acumulam conhecimento. Mas se eles adquirem conhecimento mais rápido do que os humanos podem testá-lo, como podemos confiar em sua integridade?
Em conclusão, quero observar que uma abordagem vigilante e responsável à IA para mitigar problemas potenciais em uma explosão de supernova tecnológica é o nosso caminho. Vamos domar o potencial da IA e rezar para que ela traga apenas o melhor para a humanidade ou vamos queimar seu potencial, o que refletirá o que há de pior em nós.
Ilya Khel
