Pataniscas Satânicas

Pataniscas Satânicas

terça-feira, 6 de setembro de 2016

O que é a Consciência Artificial - Fantasma na Máquina

Quartos Chineses? Representações Computacionais? Arquitecturas Cognitivas?

Vamos falar sobre isso


Bem vindos à Parte II da nossa série de artigos sobre Consciência (depois de termos escrito acerca de Consciência Humana e Consciência Animal). A semana passada focámo-nos no melhor que a Inteligência Artificial tem para nos oferecer e percebemos quais são as áreas onde a maior inovação está a acontecer.

Inteligências Artificiais que conseguem ver e até halucinar, capazes de aprender, de planear, e até de pintar quadros originais!

Uma IA a halucinar com a criatividade de outra IA - Inception IA
Mas da mesma maneira que facilmente reconhecemos que o mecanismo que nos faz reconhecer caras nas nuvens não é o que nos dá Consciência, também facilmente reconhecemos que todas estas Inteligências Artificiais não são mais do que ferramentas individuais, nenhuma das quais mais consciente do que uma simples calculadora.


Não, para o que queremos, não nos bastam as Inteligências Artificiais.

O nosso objectivo é perceber se uma Consciência, entendida como um estado mental que permite não só percepcionar subjectivamente a informação que chega do exterior através de sentidos, mas também percepcionar estados internos como emoções e ideias, e integrar toda essa informação numa experiência fluida de pensamento interior caracterizada por um sentimento de "eu" que permite interpretar, aprender e interagir com o mundo, pode ser criada artificialmente.

Ou seja, se alguma coisa semelhante ao que reconhecemos como Consciência Humana pode existir dentro de uma máquina.

Ainda antes de chegarmos à parte interessante é preciso referir que termos como Inteligência Artificial Forte e Inteligência Artificial Generalizada e Consciência Artificial são sinónimos para alguns autores.
Para outros a Inteligência Artificial Forte e a Inteligência Artificial Generalizada são formas de atingir a Consciência Artificial.


Em primeiro lugar, é sequer possível?

Teoricamente falando, será alguma vez possível criar uma verdadeira Consciência Artificial? Ou haverá algum obstáculo inultrapassável que à partida torne a questão fútil?

Um argumento contra é o de que a Consciência como a conhecemos está intrinsecamente ligada aos sistemas biológicos que a sustentam, e não é reprodutível de nenhuma outra maneira.

Zenon Pylyshin, psicólogo cognitivista, argumenta que se, um a um, os seus neurónios fossem substituídos por circuitos eléctricos, você continuaria a falar sem que nenhuma das pessoas à sua volta desse por isso, mas a determinada altura as suas palavras deixariam de ter qualquer significado e seriam apenas sons que os circuitos tinham provocado.


Outro argumento é o de que uma simulação não é uma duplicação, e que por melhor que seja a reprodução digital de uma consciência, nunca passará a ser intrinsecamente uma consciência.

O filósofo John Searle, em 1980, criou o famoso exercício do Quarto Chinês para demonstrar este argumento.

Imaginem que estão sentados numa sala fechada. Por um lado entram pedaços de papel com perguntas escritas em chinês, e vocês possuem um manual de regras que vos diz que símbolos devem estar associados a outros símbolos.


Recorrendo a esse manual, escrevem pedaços de papel com símbolos chineses que fazem sair pelo outro lado.
Estariam efectivamente a conversar em chinês, sem nunca saberem nada de chinês.

Ou seja, Searle argumenta que por muito boa que uma máquina seja a simular uma Consciência, nunca vai realmente compreender ou entender Chinês, ou possuir uma verdadeira Consciência, da mesma maneira que vocês na Sala Chinesa não sabem realmente Chinês.


Scott Aaronson, cientista de teoria computacional, critica o argumento de Searle, acusando-o de ser reducionista.

Exactamente de quantos pedaços de papel estamos a falar? E de que tamanho teria de ser o Manual de regras, e quão depressa teria de ser consultado para gerar uma conversa inteligente em chinês em tempo útil? Se cada página do Manual de regras correspondesse a um neurónio, então estaríamos a falar de um Manual do tamanho do planeta Terra, com páginas a serem lidas por um enxame de robots a viajarem quase à velocidade da luz.

Visto desta maneira, talvez não seja assim tão difícil imaginar que esta enorme entidade fluente em Chinês que criámos seja capaz de ter alguma coisa que estejamos preparados para apelidar de entendimento ou compreensão.


David Chalmers, filósofo e cientista de cognição,  argumenta que independentemente do seu substrato, a Consciência terá necessariamente uma organização causal. Ou por outras palavras, que seja qual for a maneira como a Consciência esteja construída ou organizada, as suas partes integrantes relacionam-se entre si de forma lógica e causal.

Se os computadores fazem computações, e as computações capturam a organização causal abstracta de outros sistemas, então não há motivo pelo qual um computador não seja capaz de simular uma consciência.

Por esta perspectiva, desde que consigamos atingir uma compreensão suficientemente completa de como funciona uma Consciência, e tenhamos o poder de computação suficiente, não há nenhum obstáculo à criação de uma Consciência Artificial que funcione como uma Consciência Humana funciona.


Portanto se é possível, se aparentemente não há obstáculos à partida inultrapassáveis, como é que se implementa então a Consciência Artificial?

Como vimos na Parte I já há uma data de Inteligências Artificiais que correspondem a vários processos cognitivos humanos, mas que não são mais do que ferramentas e que de consciente não têm nada.

Portanto o que é preciso são Arquitecturas Cognitivas, formas de organizar todas essas ferramentas, pô-las a trabalhar umas com as outras de maneira a que dessa organização complexa possa eventualmente emergir uma consciência.
Arquitectura Cognitiva Humana - proposta por Bernard Baars
E o que é que já por aí anda que tenta usar Arquitecturas Cognitivas para implementar coisas que se comecem a assemelhar a Consciências?

IDA

O Intelligent Distribution Agent (ou IDA) é uma implementação da Teoria de Espaço de Trabalho Global da Consciência Humana desenvolvida por Bernard Baars (de que falámos na Parte III da Consciência Humana). IDA é usado pela Marinha dos EUA e serve para recolocar marinheiros em várias posições de acordo com as suas preferências pessoais, habilidades específicas e necessidades da Marinha.

IDA interage com as várias bases de dados da Marinha e com os marinheiros por e-mail usando diálogo de linguagem natural (uma das ferramentas que vimos na Parte I).

IDA não possui percepção de sensações físicas portanto não pode ser considerada uma verdadeira Consciência Artificial, apesar dos seus muitos comportamentos estranhamente humanos e de vários Oficiais de Marinha que fazem a mesma tarefa repetidamente acenarem com a cabeça e dizerem "Sim, é assim que eu o faria" quando a vêem trabalhar.
LIDA - uma arquitectura cognitiva desenvolvida a partir da IDA
CLARION

Connectionist Learning with Adaptive Rule Induction On-line (CLARION) é um programa que tenta fazer uma representação de dois níveis que explique a distinção entre processos mentais conscientes e subconscientes (representações explícitas ou implícitas).

O CLARION consegue reproduzir várias tarefas psicológicas de aprendizagem implícita, entre as quais tarefas de tempo de reacção seriado, tarefas de aprendizagem de gramática artifical e tarefas de controlo de processos.

Estas tarefas são significativas porque foi à custa delas que se começou a conseguir definir a consciência humana no âmbito da psicologia.

Arquitectura Cognitiva de Haikonnen

Em vez de tentar simular processos cognitivos complexos e abstractos, Pentti Haikonen propõe uma "arquitectura cognitiva especial que reproduza processos de percepção, visualização interna, discurso interno, dor, prazer, emoções e as funções cognitivas subjacentes. Esta arquitectura de-baixo-para-cima seria capaz de gerar funções de elevado nível (Consciência) só à custa do poder das unidades de processamento elementares (os neurónios artificiais), sem ser necessário programas ou algoritmos".

Uma implementação de baixa complexidade da Arquitectura de Haikonen não foi capaz de atingir Consciência Artificial, mas exibiu emoções.


Auto-Consciência de Takeno

Junichi Takeno da Universidade de Meiji, afirma ter conseguido construir uma Consciência Artificial ligando um módulo computacional chamado MoNad capaz de auto-reconhecimento, que depois ligou a outros módulos em hierarquia, formulando relações entre emoções, percepções e racionalidade.



Testar a Consciência

Se testar a consciência em Animais é complicado, em máquinas artificiais é ainda mais difícil.

O famoso Teste de Turing tem várias limitações e já se começa a pensar que se deva estabelecer o padrão de uma Consciência Infantil e não uma Consciência Adulta.

Existe o teste ConScale que avalia a presença de características baseadas em sistemas biológicos, ou medidas do desenvolvimento cognitivo de sistemas artificiais.

Finalmente, o Problema Difícil da Consciência, ou a maneira como as sensações se tornam reais na nossa mente (a cor do vermelho, o calor do fogo, o cheiro de uma flor), os chamado Qualia, são quase impossíveis de testar numa Consciência Artificial.
Por outro lado são igualmente impossíveis de testar em seres humanos.

Teste de Turing
Considerações

Que as Inteligências Artificiais organizadas em Arquitecturas Cognitivas se vão tornar cada vez mais complexas, não há dúvida. Também não há nenhum obstáculo real para que a Consciência Artificial venha de facto a existir, para que um dia haja uma espécie de alma, ou fantasma, dentro da máquina.

Vai ser difícil de nos convencermos de que isso aconteceu de facto. Temos dificuldade em definir o que é a nossa própria Consciência, quanto mais Consciências que não sejam a nossa.

Mas é inescapável que as máquinas vão ficar mais e mais e mais semelhantes a nós com o passar do tempo, até que eventualmente os seus comportamentos sejam indistinguíveis dos nossos.

E quando isso acontecer, vamos continuar a debatermo-nos se essas máquinas são de facto Conscientes ou não passam de Calculadoras dentro de Quartos Chineses?

Se estamos à procura de uma última porta mágica, uma última característica ainda desconhecida, uma fina linha vermelha a partir da qual finalmente possamos dizer "Agora sim, a partir daqui uma coisa têm uma consciência equivalente à dos seres humanos! Tudo o que não tenha isto, não é consciente!" então temos de começar a aceitar a possibilidade de que não exista essa característica.

Temos de aceitar que mais cedo ou mais tarde, existirá uma consciência artificial que será tão consciente como nós. E vamos ter de aceitar finalmente que a nossa consciência não é nada de único ou especial.

Não percam a Parte III - Ex Machina, onde vamos explorar as consequências do surgimento de verdadeiras Consciências Artificiais.

2 comentários:

  1. Boa leitura!

    Sugiro uma olhadela rapida num dos capitulos de um livro muito especial para este tema.
    Livro: Superintelligence: Paths, Dangers, Strategies
    Capitulo: Perverse instantiation

    Abaixo dois links para comentarios sobre isto:
    - http://lesswrong.com/lw/l9t/superintelligence_12_malignant_failure_modes
    - https://vk.com/doc39114_362400985?hash=7d0c47d8edc7cdbbc8&dl=97d3156b2c299cd323 para algo mais completo :)

    Em si o livro commenta boas ideias sobre o que tu proprio aqui apresentas com outra depth!
    Fica a sugestao, LN

    ResponderEliminar
    Respostas
    1. Obrigado pelo comentário!

      O livro é uma excelente sugestão, e o capítulo da Perverse Instantiation é um tema que pretendo abordar na última parte desta exploração sobre a Consciência.

      O tema é incrivelmente vasto, e eu sei que o que escrevi mal arranha a superfície de todas as discussões interessantes que se podiam ter, mas é óptimo saber que há pessoas interessadas!

      Não perca a última parte, e obrigado!

      Eliminar