por Cássio Siqueira
O interessante caso das IA
Na história do desenvolvimento de ferramentas cada vez mais versáteis e aptas a realizar um número sempre maior de tarefas, quero destacar o tear de Joseph-Marie Jacquard, de 1801, programável por meio de cartões perfurados que mais tarde foram também utilizados por Herman Hollerith. Avanços na eletrônica e na matemática viabilizaram o quase impossível feito de Allan Touring ao quebrar o código da máquina alemã Enigma[30], fundamental para o esforço de guerra dos aliados na Segunda Guerra Mundial e, em última análise, para o modo de vida que o mundo hoje conhece. Combinando os avanços técnicos com os da ciência, foi até possível popularizar o Sistema de Posicionamento Global, nosso conhecidíssimo GPS, viabilizado graças tanto à eletrônica de estado sólido quanto pela aplicação de fórmulas matemáticas que compensam a distorção do espaço-tempo, propostas pela Teoria da Relatividade Geral de Albert Einstein, e necessárias devido à influência que a enorme diferença de velocidade entre os satélites e o receptor tem sobre a informação. Ciência e tecnologia têm produzido dispositivos que mais parecem ser fruto de estórias de magia do que objetos inspirados pela ficção científica.
Até agora, toda a inteligência incorporada nos dispositivos que temos desenvolvido mostra-se amoral, já que o conjunto de ações que levam à consecução de seus objetivos não está (e até agora, nem precisa estar) submetido a qualquer código de conduta. Será que algum dia essa inteligência precisará se submeter a um código para uma melhor execução de sua programação? Poderia mentir como o computador HAL do filme 2001… para alcançar seus objetivos? Algum humano poderá no futuro estar de qualquer forma em risco? E finalmente, como seria esse processo de inclusão de códigos morais que nossas ferramentas devam seguir? Talvez devêssemos fazer uso de um processo que, apesar de não ser perfeito, fornece resultados aceitáveis e que já é bastante conhecido pela antropologia. O estudo da evolução das relações humanas parece ser um bom ponto de partida.
Especulando sobre a já mencionada hierarquia de complexidades sociais no desenvolvimento do comportamento humano proponho, como já mencionado, que em nossa pré-história ancestrais acostumados com o isolamento obedeciam a apenas duas regras: sobreviver e gerar descendentes. A vida em sociedade agregou camadas de complexidade, e pouco a pouco desenvolvemos comportamentos que hoje classificamos como éticos e/ou morais. Hoje muitos de nós interpretam que as vantagens de não roubar superam as vantagens do roubo, para citar apenas um exemplo. A vida em sociedade nos presenteou com esse tipo de polimento.
Já para o desenvolvimento de uma Inteligência Artificial Geral, uma que aja de forma aparentemente senciente[31], acredito que o caminho de seu desenvolvimento deva ser análogo ao do desenvolvimento de nossa própria espécie, com duas notáveis diferenças em favor das máquinas: velocidade e memória. Imagino que um ecossistema de IAs forçadas a conviver em um ecossistema evoluiria muito mais rapidamente do que nós; e um sistema de compartilhamento de conclusões evitaria a aborrecida tarefa de ter que ensinar tudo do zero a cada vez de uma criança nasce (no nosso caso) ou que uma nova IA fosse inserida nesse ambiente (no caso dos computadores)[32].
- Era das IAs individuais. O ecossistema exige trabalho para viabilizar a sobrevivência. Espera-se o surgimento de comportamentos como roubo e assassinatos (resultado de disputas), este último especialmente se o fruto do trabalho puder ser acumulado.
- Desenvolvimento de comunicação. Pode viabilizar formas mais elaboradas de roubo, com provável queda nas taxas de mortes. Como efeito colateral, a formação de grupos que privilegiem trabalhos em equipe pode facilitar o surgimento de comportamentos sociais mais complexos, como lealdade.
- Elaboração espontânea de códigos de conduta, com a percepção de vantagens não palpáveis e muitas vezes indiretas quando observadas as restrições do código.
O termo “singularidade”[33] é utilizado no campo da Inteligência Artificial para designar o despertar de uma consciência digital baseada em uma IA genérica (AGI, ou Artificial General Intelligence) que, acredita-se, teria no início um nível de inteligência similar ao da inteligência humana. Esse talvez seja o momento adequado para um evento de Primeiro Contato para com essas IAs, algo que provavelmente deveria ser realizado por IAs projetadas especificamente para este fim, por se tratar de um delicadíssimo momento na história da humanidade, como bem mostram os filmes Ex-Machina[34], de Alex Garland, e 2001, Uma Odisseia no Espaço, de Stanley Kubrick. Penso que esse seja o único momento em que devêssemos realmente nos preocupar com uma IA desse nível, e onde caberiam medidas de cautela, sob pena de concretizarmos o perigoso futuro proposto por Frank Herbert naquela última (em ordem de escrita) trilogia da saga de Duna[35], mas que são os pioneiros três livros na cronologia deste universo; falo aqui dos livros Duna, o Jihad Butleriano; Duna, A Cruzada das Máquinas; e finalmente Duna, A Batalha de Corino. Em qualquer outro cenário, acredito que nossas precauções seriam ou injustificadas ou completamente inócuas, mas a título de curiosidade, podemos analisar alguns cenários de Primeiro Contato com uma IA alienígena.
Como já vimos antes em nosso texto ao discutir vida em sociedade, cultura e civilizações, nosso comportamento pode ser dividido em duas diferentes camadas: o que eu quero e como agir para conseguir. Ambas as camadas podem ou não ser submetidas a códigos de conduta (o exemplo que citei foram os Dez Mandamentos, lembra?), mas quero agora adicionar uma camada de complexidade que ainda não mencionei: submeter o seu desejo a códigos de conduta não obriga necessariamente a submeter o método de se conseguir o que deseja (é daí que se origina a equivocada[36] expressão o fim justifica os meios). As IAs, pelo menos no início de sua evolução, irão provavelmente sofrer das mesmas dúvidas que os humanos hoje enfrentam, e adotar linhas de ação não virtuosas para concretizar objetivos que considerem virtuosos (a imposição de objetivos é por definição característica de uso de IAs não genéricas).
Na próxima semana: O interessante caso das IA - Objetivos
Notas
[30]
https://pt.wikipedia.org/wiki/Enigma_(m%C3%A1quina) em 07/10/2020.
[31]
Em www.dicio.com.br, temos: 1. Capaz de sentir ou perceber através dos sentidos. 2. Que possui ou consegue receber impressões ou sensações.
Na ficção científica o termo é frequentemente utilizado para criaturas ou máquinas autoconscientes. Veja mais sobre o assunto no link sobre o Teste de Touring: https://pt.wikipedia.org/wiki/Teste_de_Turing#:~:text=O%20Teste%20de%20Turing%20testa,ser%20humano%2C%20ou%20indistingu%C3%ADvel%20deste em 05/10/2020.
[32]
Automatic Machine Learning é o ramo de estudo das IAs que aplica técnicas semelhantes à descrita neste texto, e cientistas da Google vêm trabalhando no desenvolvimento desse tipo de algoritmo. Saiba mais em https://baseestelarcampinas.blogspot.com/2021/01/nova-ia-se-aperfeicoa-por-evolucao-no.html (06/01/2021)
[33]
https://pt.wikipedia.org/wiki/Singularidade_tecnol%C3%B3gica em 27/09/2020
[34]
https://pt.wikipedia.org/wiki/Ex_Machina_(filme)
[35]
https://leiturasparalelas.wordpress.com/2012/10/15/160/
[36]
N.A.: É um erro para integrantes de qualquer sociedade conseguir o que se deseja custe o que custar. É importante notar que a grande resiliência apresentada por sociedades e civilizações para com esse tipo de comportamento não o legitima. Sociedades saudáveis sempre submetem seus desejos e ações ao código de conduta, uma espécie de “são os meios que justificam os fins”, se preferir.
Comentários
Postar um comentário