A IA pode desenvolver um senso de certo e errado?

A inteligência artificial pode aprender os valores morais das sociedades humanas? Um sistema de IA pode tomar decisões em situações em que deve pesar e equilibrar os danos e benefícios para diferentes pessoas ou grupos de pessoas? A IA pode desenvolver um senso de certo e errado? Em suma, a inteligência artificial terá consciência?

Esta pergunta pode parecer irrelevante quando se considera os sistemas de IA de hoje, que só são capazes de realizar tarefas muito restritas . Mas, à medida que a ciência continua a abrir novos caminhos, a inteligência artificial está gradualmente encontrando seu caminho em domínios mais amplos. Já estamos vendo algoritmos de IA aplicados a áreas onde os limites entre boas e más decisões não estão claramente definidos, como justiça criminal e processamento de candidaturas a empregos. 

No futuro, esperamos que a IA cuide dos idosos, ensine nossos filhos e execute muitas outras tarefas que requerem julgamento humano moral. E então, a questão da consciência e da conscienciosidade na IA se tornará ainda mais crítica.

Com essas perguntas em mente, fui em busca de um livro (ou livros) que explicasse como os humanos desenvolvem a consciência e desse uma ideia se o que sabemos sobre o cérebro fornece um roteiro para a IA conscienciosa.

Um amigo sugeriu Conscience: The Origins of Mor al Intuition da Dra. Patricia Churchland, neurocientista, filósofa e professora emérita da Universidade da Califórnia, San Diego. O livro da Dra. Churchland, e uma conversa que tive com ela depois de ler  Conscience , me ensinaram muito sobre a extensão e os limites da ciência do cérebro. A consciência  nos mostra o quão longe chegamos para entender a relação entre a estrutura física do cérebro e seu funcionamento e o senso moral em humanos. Mas também nos mostra o quanto mais devemos fazer para entender verdadeiramente como os humanos tomam decisões morais.  

É uma leitura muito acessível para qualquer pessoa interessada em explorar os antecedentes biológicos da consciência humana e refletir sobre a interseção da IA ​​e da consciência.

Aqui está um resumo muito rápido do que a consciência  nos diz sobre o desenvolvimento da intuição moral no cérebro humano. Com a mente sendo o projeto principal da IA, um melhor conhecimento da consciência pode nos dizer muito sobre o que seria necessário para a IA aprender as normas morais das sociedades humanas. 

O sistema de aprendizagem

“A consciência é o julgamento de um indivíduo sobre o que é normalmente certo ou errado, normalmente, mas nem sempre, refletindo algum padrão de um grupo ao qual o indivíduo se sente ligado”, escreve Churchland em seu livro.

Mas como os humanos desenvolveram a capacidade de entender como adotar esses acertos e erros? Para responder a essa pergunta, o Dr. Churchland nos leva de volta no tempo, quando nossos primeiros ancestrais de sangue quente fizeram sua aparição.

Pássaros e mamíferos são endotérmicos: seus corpos possuem mecanismos para preservar seu calor. Em contraste, em répteis, peixes e insetos, organismos de sangue frio, o corpo se adapta à temperatura do ambiente.

O grande benefício da endotermia é a capacidade de coletar alimentos à noite e sobreviver em climas mais frios. A compensação: os corpos endotérmicos precisam de muito mais comida para sobreviver. Esse requisito levou a uma série de etapas evolutivas no cérebro de criaturas de sangue quente que as tornaram mais inteligentes. O mais notável entre eles é o desenvolvimento do córtex no cérebro dos mamíferos.

O córtex pode integrar diversos sinais e extrair representações abstratas de eventos e coisas que são relevantes para a sobrevivência e reprodução. O córtex aprende, integra, revisa, recorda e continua aprendendo.

O córtex permite que os mamíferos sejam muito mais flexíveis às mudanças no clima e na paisagem, em oposição aos insetos e peixes, que são muito dependentes da estabilidade em suas condições ambientais.

Mas, novamente, as capacidades de aprendizagem vêm com uma compensação: os mamíferos nascem indefesos e vulneráveis. Ao contrário das cobras, tartarugas e insetos, que chegam ao solo correndo e são totalmente funcionais quando quebram as cascas dos ovos, os mamíferos precisam de tempo para aprender e desenvolver suas habilidades de sobrevivência.

E é por isso que dependem um do outro para sobreviver.

O desenvolvimento do comportamento social

O cérebro de todos os seres vivos tem um sistema de recompensa e punição que garante que eles façam coisas que apóiem ​​sua sobrevivência e a sobrevivência de seus genes. Os cérebros dos mamíferos reaproveitaram essa função para se adaptar à sociabilidade.

“Na evolução do cérebro dos mamíferos, as sensações de prazer e dor que sustentam a sobrevivência pessoal foram suplementadas e reaproveitadas para motivar o comportamento de afiliação”, escreve Churchland. “O amor próprio estendeu-se a uma esfera relacionada, mas nova: o amor pelo outro.

O principal beneficiário dessa mudança são os descendentes. A evolução desencadeou mudanças nos circuitos do cérebro dos mamíferos para recompensar o cuidado dos bebês. As mães e, em algumas espécies, os pais, fazem de tudo para proteger e alimentar seus filhos, muitas vezes em grande desvantagem para si mesmas.

Em Conscience , Churchland descreve experimentos sobre as reações bioquímicas do cérebro de diferentes mamíferos que recompensam o comportamento social, incluindo o cuidado com a prole. 

“A sociabilidade dos mamíferos é qualitativamente diferente daquela vista em outros animais sociais que não possuem córtex, como abelhas, cupins e peixes”, escreve Churchland. “É mais flexível, menos reflexivo e mais sensível às contingências no ambiente e, portanto, sensível às evidências. É sensível a considerações de longo e curto prazo. O cérebro social dos mamíferos permite-lhes navegar no mundo social, para saber o que os outros pretendem ou esperam. ”

Comportamento social humano

O cérebro humano tem o maior e mais complicado córtex entre os mamíferos


Os cérebros dos humanos têm o córtex maior e mais complexo dos mamíferos. O cérebro do homo sapiens, nossa espécie, é três vezes maior que o dos chimpanzés, com quem compartilhamos um ancestral comum há 5 a 8 milhões de anos.

O cérebro maior naturalmente nos torna muito mais inteligentes, mas também requer maiores necessidades de energia. Então, como chegamos a pagar a conta das calorias? “Aprender a cozinhar comida no fogo foi provavelmente a mudança comportamental crucial que permitiu que os cérebros dos hominídeos se expandissem muito além dos cérebros dos chimpanzés e se expandissem rapidamente no tempo evolutivo”, escreve Churchland.

Com as necessidades de energia do corpo supridas, os hominíneos eventualmente se tornaram capazes de fazer coisas mais complexas, incluindo o desenvolvimento de estruturas e comportamentos sociais mais ricos.

Portanto, o comportamento complexo que vemos em nossa espécie hoje, incluindo a adesão a normas e regras morais, começou como uma luta pela sobrevivência e a necessidade de atender às restrições de energia.

“As restrições de energia podem não ser elegantes e filosóficas, mas são tão reais quanto a chuva”, escreve Churchland em Conscience. 

Nossa evolução genética favoreceu o comportamento social. As normas morais surgiram como soluções práticas para nossas necessidades. E nós, humanos, como qualquer outro ser vivo, estamos sujeitos às leis da evolução, que Churchland descreve como “um processo cego que, sem qualquer objetivo, mexe com a estrutura já existente”. A estrutura do nosso cérebro é o resultado de incontáveis ​​experimentos e ajustes.

“Entre eles, o circuito de apoio à sociabilidade e o autocuidado e o circuito de internalização das normas sociais criam o que chamamos de consciência ”, escreve Churchland. “Nesse sentido, sua consciência é uma construção cerebral, por meio da qual seus instintos de cuidar de si e dos outros são canalizados para comportamentos específicos por meio do desenvolvimento, da imitação e do aprendizado.” 

Este é um tópico muito sensível e complicado, e apesar de todos os avanços na ciência do cérebro, muitos dos mistérios da mente e do comportamento humanos permanecem desbloqueados.

“O papel dominante das necessidades de energia na origem ancestral da moralidade humana não significa que a decência e a honestidade devam ser depreciadas. Nem significa que não sejam reais. Essas virtudes permanecem totalmente admiráveis ​​e dignas para nós, humanos sociais, independentemente de suas origens humildes. Eles são uma parte essencial do que nos torna humanos que somos ”, escreve Churchland.

Inteligência Artificial e Consciência

Fonte: Depositphotos

Em Conscience , Churchland discute muitos outros tópicos, incluindo o papel da aprendizagem por reforço no desenvolvimento do comportamento social e a capacidade de longo alcance do córtex humano para aprender pela experiência, para refletir sobre situações contrafactuais, desenvolver modelos do mundo, fazer analogias semelhantes padrões e muito mais.   

Basicamente, usamos o mesmo sistema de recompensa que permitiu que nossos ancestrais sobrevivessem e utilizamos a complexidade de nosso córtex em camadas para tomar decisões muito complicadas em ambientes sociais.

“As normas morais surgem no contexto de tensão social e são ancoradas pelo substrato biológico. O aprendizado de práticas sociais depende do sistema de recompensas positivas e negativas do cérebro, mas também da capacidade do cérebro de resolver problemas ”, escreve Churchland.

Depois de ler Conscience , eu tinha muitas perguntas em mente sobre o papel da consciência na IA. A consciência seria um subproduto inevitável da IA de nível humano ? Se a energia e as restrições físicas nos levassem a desenvolver normas sociais e comportamento consciente, haveria um requisito semelhante para a IA? A experiência física e as informações sensoriais do mundo desempenham um papel crucial no desenvolvimento da inteligência?  

Felizmente, tive a oportunidade de discutir esses tópicos com o Dr. Churchland depois de ler Conscience . 

Neurofilosofa Patricia Churchland (Fonte: Patricia Churchland)

O que fica evidente no livro do Dr. Churchland (e em outras pesquisas sobre redes neurais biológicas), a experiência física e as restrições desempenham um papel importante no desenvolvimento da inteligência e, por extensão, da consciência, em humanos e animais.  

Mas hoje, quando falamos de inteligência artificial, falamos principalmente sobre arquiteturas de software, como redes neurais artificiais . A IA de hoje consiste principalmente em linhas de código desincorporadas que rodam em computadores e servidores e processam dados obtidos por outros meios. A experiência física e as restrições serão um requisito para o desenvolvimento de IA verdadeiramente inteligente, que também pode apreciar e aderir às regras e normas morais da sociedade humana? 

“É difícil saber o quão flexível pode ser o comportamento quando a anatomia da máquina é muito diferente da anatomia do cérebro”, disse Churchland em nossa conversa. “No caso dos sistemas biológicos, o sistema de recompensa, o sistema de aprendizagem por reforço é absolutamente crucial. Sentimentos de recompensa positiva e negativa são essenciais para os organismos aprenderem sobre o meio ambiente. Isso pode não ser verdade no caso de redes neurais artificiais. Nós simplesmente não sabemos. ”

Ela também apontou que ainda não sabemos como o cérebro pensa. “No caso de entendermos isso, talvez não precisemos replicar absolutamente todas as características do cérebro biológico no cérebro artificial para obtermos parte do mesmo comportamento”, acrescentou ela.

Churchland lembrou que, embora inicialmente a comunidade de IA tenha rejeitado amplamente as redes neurais, elas acabaram se mostrando bastante eficazes quando seus requisitos computacionais foram atendidos. E embora as redes neurais atuais tenham inteligência limitada em comparação com o cérebro humano, podemos ter surpresas no futuro.

“Uma das coisas que sabemos neste estágio é que mamíferos com córtex e com sistema de recompensa e estruturas subcorticais podem aprender coisas e generalizar sem uma grande quantidade de dados”, disse ela. “No momento, uma rede neural artificial pode ser muito boa em classificar rostos, sem esperança em classificar mamíferos. Isso pode ser apenas um problema de números.

“Se você é um engenheiro e está tentando obter algum efeito, tente todos os tipos de coisas. Talvez você precise ter algo como emoções e talvez possa construir isso em sua rede neural artificial. ”

Precisamos replicar as sutis diferenças físicas do cérebro na IA?

Uma das minhas lições da Consciência foi que os humanos geralmente se alinham com as normas sociais de sua sociedade, às vezes também as desafiam. E a estrutura física única de cada cérebro humano, os genes que herdamos de nossos pais e as experiências posteriores que adquirimos ao longo de nossas vidas criam as diferenças sutis que nos permitem chegar a novas normas e ideias e às vezes desafiar o que foi previamente estabelecido como regra e lei.  

Mas uma das características mais elogiadas da IA ​​é sua reprodutibilidade uniforme. Ao criar um algoritmo de IA, você pode replicá-lo inúmeras vezes e implantá-lo em quantos dispositivos e máquinas desejar. Todos eles serão idênticos aos últimos valores paramétricos de suas redes neurais. Agora, a questão é: quando todos os IAs são iguais, eles permanecerão estáticos em seu comportamento social e não terão as diferenças sutis que impulsionam a dinâmica do progresso social e comportamental nas sociedades humanas?

“Até que tenhamos uma compreensão muito mais rica de como funcionam os cérebros biológicos, é realmente difícil responder a essa pergunta”, disse Churchland. “Sabemos que, para obter um resultado complicado de uma rede neural, a rede não precisa ter material úmido, não precisa ter mitocôndrias e ribossomos e proteínas e membranas. Quanto mais ele não precisa ter? Nós não sabemos.

“Sem dados, você é apenas mais uma pessoa com uma opinião, e não tenho dados que me digam que você precisa imitar certos circuitos específicos no sistema de aprendizagem por reforço para ter uma rede inteligente.

“Os engenheiros vão tentar e ver o que funciona.”

Ainda temos que aprender muito sobre a consciência humana e ainda mais sobre se e como ela se aplicaria a máquinas altamente inteligentes. “Não sabemos exatamente o que o cérebro faz enquanto aprende a se equilibrar em um headstand. Mas com o tempo, pegamos o jeito ”, escreve Churchland em Conscience. “Em um grau ainda maior, não sabemos o que o cérebro faz enquanto aprende a encontrar o equilíbrio em um mundo socialmente complicado.”  

Mas à medida que continuamos a observar e aprender os segredos do cérebro, esperamos estar mais bem equipados para criar IA que sirva ao bem de toda a humanidade . 

Este artigo foi publicado originalmente por Ben Dickson na TechTalks , uma publicação que examina as tendências em tecnologia, como elas afetam a maneira como vivemos e fazemos negócios e os problemas que resolvem. Mas também discutimos o lado ruim da tecnologia, as implicações mais sombrias da nova tecnologia e o que precisamos cuidar. Você pode ler o artigo original aqui .

Seja o primeiro a comentar

Faça um comentário

Seu e-mail não será publicado.


*