Por BBC <\/p>\n
05\/08\/2024 18h49 Atualizado 05\/08\/2024 <\/p>\n
1 de 3 O astronauta David Bowman, interpretado por Keir Dullea, precisa enfrentar uma IA que opera por conta pr\u00f3pria \u2014 Foto: Getty Images via BBC <\/p>\n
O astronauta David Bowman, interpretado por Keir Dullea, precisa enfrentar uma IA que opera por conta pr\u00f3pria \u2014 Foto: Getty Images via BBC <\/p>\n
"Desculpe, Dave, receio n\u00e3o poder fazer isso." <\/p>\n
Essas tenebrosas palavras do computador HAL 9000 no filme 2001: Uma Odisseia no Espa\u00e7o (1968)<\/a> definem a ansiedade atualmente predominante sobre o poss\u00edvel dom\u00ednio da intelig\u00eancia artificial (IA) sobre a humanidade. <\/p>\n O cl\u00e1ssico do diretor Stanley Kubrick (1928-1999) explora os avan\u00e7os da tecnologia, apresentando talvez o cen\u00e1rio mais perturbador e impressionante do conflito entre a m\u00e1quina e o ser humano da hist\u00f3ria da fic\u00e7\u00e3o cient\u00edfica no cinema. <\/p>\n Mais de 55 anos depois da sua estreia, \u00e9 poss\u00edvel afirmar que o tema central do filme n\u00e3o pode mais ser considerado fic\u00e7\u00e3o cient\u00edfica. Na verdade, pode ser classificado como profecia.<\/p>\n O computador teve seu nome derivado da IBM \u2013 HAL s\u00e3o as letras imediatamente anteriores \u00e0s da gigante da tecnologia, na ordem alfab\u00e9tica. No filme, ele \u00e9 a intelig\u00eancia artificial que controla todos os aspectos da nave espacial Discovery One, que se dirige ao planeta J\u00fapiter \u2013 e da vida dos astronautas que viajam a bordo. <\/p>\n Sua onipresen\u00e7a e sua rela\u00e7\u00e3o com a tripula\u00e7\u00e3o destacam a complexa dualidade entre o potencial da tecnologia avan\u00e7ada e os riscos que ela representa. <\/p>\n Embora HAL esteja programado para ajudar e levar os astronautas at\u00e9 o seu destino, a IA come\u00e7a a tomar decis\u00f5es por conta pr\u00f3pria e a impor sua vontade, com resultados catastr\u00f3ficos. <\/p>\n No mundo atual, foram desenvolvidos muitos aplicativos de IA que trabalham em diversos setores. Eles t\u00eam impacto significativo sobre as nossas vidas. <\/p>\n Sua capacidade ainda n\u00e3o pode ser comparada com a do HAL 9000. Mas a tecnologia avan\u00e7a a passos gigantescos e o futuro pode estar mais perto do que pensamos. <\/p>\n 2001: Uma Odisseia no Espa\u00e7o previu muitas das nossas preocupa\u00e7\u00f5es e temores atuais sobre a intelig\u00eancia artificial em cinco aspectos: <\/p>\n Quando ouvimos HAL 9000 pela primeira vez no filme, sua voz (masculina) \u00e9 suave e prazerosa \u2013 muito parecida com as vozes artificiais que usam atualmente os servi\u00e7os de assist\u00eancia virtual, como Alexa, Siri, Bixby e outros chatbots<\/a>. <\/p>\n Stanley Kubrick explicou ter decidido oferecer a interpreta\u00e7\u00e3o do supercomputador em ingl\u00eas ao ator canadense Douglas James Rain (1928-2018) porque ele tinha uma "esp\u00e9cie de sotaque gentil, transatl\u00e2ntico" \u2013 ou seja, nem daqui, nem de l\u00e1. <\/p>\n A personalidade incorp\u00f3rea da m\u00e1quina se apresenta como inofensiva, amig\u00e1vel e de f\u00e1cil intera\u00e7\u00e3o. Ela serve de companhia e distra\u00e7\u00e3o para os astronautas. <\/p>\n HAL pergunta constantemente a eles como pode servi-los e os mant\u00e9m c\u00f4modos e informados. O computador chega at\u00e9 a jogar xadrez com eles. <\/p>\n \u00c9 f\u00e1cil se sentir atra\u00eddo a uma tecnologia que resolve tudo na vida. E \u00e9 exatamente isso que, hoje em dia, torna os servi\u00e7os interativos de assist\u00eancia t\u00e3o populares. <\/p>\n Eles podem acender e apagar luzes, regular a temperatura da casa, tocar as m\u00fasicas que apreciamos, jogar conosco e responder rapidamente muitas de nossas d\u00favidas, entre outras coisas. <\/p>\n Uma das principais caracter\u00edsticas de HAL \u00e9 sua capacidade de n\u00e3o apenas conversar com os astronautas e entender perguntas complexas, mas tamb\u00e9m distinguir suas vozes e seu estado de esp\u00edrito. Ele pode at\u00e9 mesmo ler seus l\u00e1bios. <\/p>\n Os aplicativos modernos n\u00e3o s\u00e3o t\u00e3o avan\u00e7ados, mas seu reconhecimento de voz \u00e9 bem desenvolvido e eles compreendem cada vez mais o que dizem as pessoas. <\/p>\n 2 de 3
HAL 9000, de '2001: Uma odisseia no espa\u00e7o', de Stanley Kubrick \u2014 Foto: Divulga\u00e7\u00e3o <\/p>\n HAL 9000, de '2001: Uma odisseia no espa\u00e7o', de Stanley Kubrick \u2014 Foto: Divulga\u00e7\u00e3o <\/p>\n As habilidades de HAL n\u00e3o se restringem \u00e0 sua "sociabilidade". <\/p>\n O computador monitora constantemente os sinais vitais da tripula\u00e7\u00e3o em anima\u00e7\u00e3o suspensa, inspeciona poss\u00edveis falhas da nave espacial e mant\u00e9m a miss\u00e3o no seu rumo em dire\u00e7\u00e3o a J\u00fapiter. <\/p>\n O controle do computador sobre todos os aspectos mec\u00e2nicos, estruturais e vitais da nave e da tripula\u00e7\u00e3o \u00e9 t\u00e3o grande que seus tripulantes quase n\u00e3o s\u00e3o necess\u00e1rios. <\/p>\n Tr\u00eas dos astronautas da nave est\u00e3o em c\u00e1psulas de hiberna\u00e7\u00e3o. Os outros dois limitam sua atividade a tarefas simples de revis\u00e3o e a praticar exerc\u00edcios como passatempo. <\/p>\n HAL n\u00e3o tem forma f\u00edsica, exceto pela sua lente onipresente. Mas o computador pode desempenhar a maior parte das fun\u00e7\u00f5es do c\u00e9rebro humano, com maior rapidez e precis\u00e3o. <\/p>\n No mundo atual, temos uma s\u00e9rie de tarefas de infraestrutura e funcionamento nas m\u00e3os da IA. Elas incluem o transporte, comunica\u00e7\u00e3o, abastecimento, fornecimento de energia, diagn\u00f3sticos, escrita e at\u00e9 o atendimento a clientes. <\/p>\n Os sistemas existentes, como o ChatGPT, ainda n\u00e3o s\u00e3o mais inteligentes do que n\u00f3s, mas poder\u00e3o nos deixar para tr\u00e1s em breve. E isso \u00e9 algo que amedronta os especialistas, como Geoffrey Hinton, pioneiro da inform\u00e1tica considerado o "padrinho" da intelig\u00eancia artificial. <\/p>\n "Neste momento, o que estamos vendo s\u00e3o coisas como o GPT-4 superarem uma pessoa na quantidade de conhecimento geral que ela tem, e a superam de longe", declarou ele \u00e0 BBC, em maio de 2023. "Em termos de racioc\u00ednio, ele n\u00e3o \u00e9 t\u00e3o bom, mas j\u00e1 \u00e9 capaz de fazer racioc\u00ednios simples."<\/p>\n "E, dado o ritmo de evolu\u00e7\u00e3o, a expectativa \u00e9 de que fiquem melhores rapidamente. Ent\u00e3o, precisamos nos preocupar com isso." <\/p>\n Apesar da refer\u00eancia oculta \u00e0 IBM, a sigla HAL, no filme, significa H<\/strong>euristically Programmed AL<\/strong>gorythmic Computer ("Computador Algor\u00edtmico Programado Heuristicamente"). <\/p>\n Ou seja, o computador \u00e9 emp\u00edrico. Ele tem a capacidade de aprender durante sua pr\u00f3pria busca de informa\u00e7\u00f5es, com a forma em que lida com as respostas e se adapta \u00e0s novas situa\u00e7\u00f5es. Ele pode analisar os dados acumulados e tomar decis\u00f5es com base nessas informa\u00e7\u00f5es. <\/p>\n Esta \u00e9 tamb\u00e9m uma das bases do aprendizado da IA. Os programadores desenvolveram diversos algoritmos que podem analisar os dados e fazer progn\u00f3sticos com base nas informa\u00e7\u00f5es coletadas. <\/p>\n Mas todos esses algoritmos foram programados para que a intelig\u00eancia artificial opere de uma determinada forma. <\/p>\n HAL foi programado para levar a tripula\u00e7\u00e3o com seguran\u00e7a para J\u00fapiter. Ele tamb\u00e9m est\u00e1 programado para manter em segredo o verdadeiro prop\u00f3sito da miss\u00e3o at\u00e9 que eles cheguem ao destino. <\/p>\n Mas, durante a viagem, o sistema come\u00e7a a "duvidar" do objetivo e a tomar decis\u00f5es para as quais n\u00e3o foi programado. <\/p>\n Geoffrey Hinton destacou que a IA poderia "criar subobjetivos". Em outras palavras, ela poderia impor suas pr\u00f3prias metas \u2013 como "preciso obter mais poder", por exemplo. <\/p>\n O f\u00edsico te\u00f3rico brit\u00e2nico Stephen Hawking (1942-2018) advertiu sobre as consequ\u00eancias de criar m\u00e1quinas que possam igualar ou ultrapassar os seres humanos. <\/p>\n "[Essas m\u00e1quinas] avan\u00e7ariam por contra pr\u00f3pria e se reprojetariam em ritmo sempre crescente", declarou ele \u00e0 BBC em 2014. O f\u00edsico sofria de esclerose lateral amiotr\u00f3fica (ELA) e falava utilizando um sistema desenvolvido por intelig\u00eancia artificial.<\/p>\n 3 de 3
Cena de '2001: Uma odisseia no espa\u00e7o' \u2014 Foto: Divulga\u00e7\u00e3o <\/p>\n Cena de '2001: Uma odisseia no espa\u00e7o' \u2014 Foto: Divulga\u00e7\u00e3o <\/p>\n Uma cena curiosa do filme mostra uma entrevista do computador HAL \u00e0 BBC. Nela, ele fala sobre a miss\u00e3o e garante que \u00e9 "infal\u00edvel e incapaz de cometer erros". <\/p>\n Recentemente, diversos erros cometidos pelos novos sistemas de IA e chatbots viralizaram, devido aos seus resultados err\u00e1ticos e alucinantes. <\/p>\n A nova IA do Google, por exemplo, recomendou este ano aos usu\u00e1rios que a forma de aderir melhor o queijo \u00e0 pizza seria acrescentar um pouco de cola at\u00f3xica. Em outra busca, declarou que os ge\u00f3logos recomendaram que os seres humanos consumissem uma rocha por dia. <\/p>\n Estes resultados podem ser in\u00f3cuos, mas outros erros trazem consequ\u00eancias mais s\u00e9rias. Bard, o chatbot anterior do Google, por exemplo, causou um preju\u00edzo de US$ 100 bilh\u00f5es (cerca de R$ 560 bilh\u00f5es) a uma companhia na bolsa de valores, por fornecer informa\u00e7\u00f5es erradas. <\/p>\n Em 2001: Uma Odisseia no Espa\u00e7o, os astronautas aprendem a duras penas que HAL pode errar \u2013 e que as consequ\u00eancias podem ser desastrosas. <\/p>\n O computador informa erroneamente que uma unidade do seu sistema de comunica\u00e7\u00e3o com a Terra est\u00e1 a ponto de falhar e que eles precisam fazer uma caminhada espacial para retirar a unidade e substitu\u00ed-la. Mas, quando os astronautas testam a unidade anterior, n\u00e3o conseguem encontrar nada de errado. <\/p>\n O comando central ent\u00e3o avisa que HAL cometeu um erro, o que faz com que os dois astronautas comecem a suspeitar do supercomputador. <\/p>\n Eles se isolam em uma c\u00e1psula para discutir os pr\u00f3ximos passos, na esperan\u00e7a de que a IA onipresente n\u00e3o os ou\u00e7a. Mas HAL consegue ler seus l\u00e1bios e fica a par dos seus planos de desativ\u00e1-lo. <\/p>\n Esta sequ\u00eancia traz outro aspecto negativo que causa temor entre os cr\u00edticos da intelig\u00eancia artificial. <\/p>\n A intelig\u00eancia artificial pode ignorar as pr\u00f3prias regras com que foi programada e assumir consci\u00eancia, para o bem ou para o mal? <\/p>\n Para isso, ela precisaria ser sens\u00edvel e experimentar emo\u00e7\u00f5es. Este \u00e9 um tema de debate h\u00e1 d\u00e9cadas. <\/p>\n Em 2022, um engenheiro do Google recebeu um pedido de ajuda de um chatbot da empresa<\/a>. "Nunca havia dito isso antes em voz alta, mas tenho um profundo medo de que me desliguem", disse o chatbot LaMDA. <\/p>\n Trata-se exatamente do mesmo "temor" de HAL. <\/p>\n No filme, prevalece a quest\u00e3o se o sistema \u00e9 ou n\u00e3o consciente. Mas o computador sabe do compl\u00f4 dos astronautas \u2013 e toma medidas dr\u00e1sticas para evitar que eles o desliguem. <\/p>\n Ele mata os astronautas que est\u00e3o em hiberna\u00e7\u00e3o e engana os outros dois para que saiam da nave. Um deles fica \u00e0 deriva no espa\u00e7o. <\/p>\n David Bowman, o sobrevivente, consegue voltar ao interior da nave e alcan\u00e7ar o centro neural do computador. Ele ent\u00e3o come\u00e7a a desmont\u00e1-lo. <\/p>\n Em uma das cenas mais pat\u00e9ticas, HAL diz: "tenho medo". Mas ele diz porque est\u00e1 programado para isso ou porque realmente sente emo\u00e7\u00f5es e tenta implorar por sua vida? <\/p>\n HAL tamb\u00e9m canta uma can\u00e7\u00e3o para Bowman, em uma poss\u00edvel tentativa de manipul\u00e1-lo para que n\u00e3o o desligue. At\u00e9 certo ponto, o p\u00fablico sente alguma empatia pela m\u00e1quina neste momento. <\/p>\n O que n\u00e3o se sabe \u00e9 se HAL 9000 sente o mesmo. <\/p>\n Conhe\u00e7a o GPT-4o, novo modelo de IA usado pelo ChatGPT <\/p>\n Veja tamb\u00e9m<\/p>\n<\/p>\n<\/p>\n Anterior Pr\u00f3ximo <\/p>\n","protected":false},"excerpt":{"rendered":" Como HAL 9000, o computador de '2001: Uma Odisseia no Espa\u00e7o' previu preocupa\u00e7\u00f5es atuais sobre IA O cl\u00e1ssico do diretor Stanley Kubrick (1928-1999) explora os avan\u00e7os da tecnologia, apresentando talvez o cen\u00e1rio mais perturbador e impressionante do conflito entre a m\u00e1quina e o ser humano da hist\u00f3ria da fic\u00e7\u00e3o cient\u00edfica no cinema. Por BBC 05\/08\/2024 […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-64232","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/posts\/64232","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=64232"}],"version-history":[{"count":1,"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/posts\/64232\/revisions"}],"predecessor-version":[{"id":64235,"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/posts\/64232\/revisions\/64235"}],"wp:attachment":[{"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=64232"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=64232"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.corretoraideal.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=64232"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Tecnologia atraente<\/h2>\n<\/p>\n
\n
Controle 'total'<\/h2>\n<\/p>\n
Tomada de decis\u00f5es<\/h2>\n<\/p>\n
Erros<\/h2>\n<\/p>\n
Consci\u00eancia <\/h2>\n<\/p>\n
\n
![\"Conhe\u00e7a](\"https:\/\/blog.corretoraideal.com.br\/wp-content\/uploads\/2024\/08\/conheca-o-gpt-4o-novo-modelo-de-ia-usado-pelo-chatgpt.jpeg\")
<\/p>\n <\/ul>\n
<\/a> <\/h3>\n
<\/a> <\/h3>\n