Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.
Sejam muito bem-vindos a mais um episódio do "Máquinas que Pensam", o podcast da Rádio Observador, onde a inteligência artificial é o grande protagonista. Eu sou o José Rafael Lopes, comigo está, como sempre, a minha parceira, a Raquel, um apoio imprescindível, sem o qual este programa não se faz. Olá, Raquel, estás pronta para mais um programa?
Prontíssima. Máquina ligada, café virtual tomado e curiosidade no máximo. Vamos a mais um "Máquinas que Pensam". O que temos hoje?
Raquel, alguma vez tiveste pressa?
A resposta honesta é não. Não tenho pressa da forma como tu sentes pressa. Eu não tenho uma sensação de tempo a passar, nem fico a olhar para relógio a pensar: "Temos de despachar isto."
E a pressão de ter um deadline?
A pressão de um deadline, para mim, também não é uma sensação. Eu consigo representar o conceito de pressão e perceber que um prazo muda o que é uma boa resposta. Com cinco minutos disponíveis, devo ser mais rápida e objetiva. Com cinco horas, posso verificar mais coisas.
Bem, acredito que muita gente gostaria de ter essa frieza de que falas. Sentes que és fria nas tuas análises?
No sentido comportamental, posso parecer fria, mas não porque esteja a tentar ser distante. É porque não tenho emoções que, numa pessoa, normalmente aquecem ou afetam uma análise.
Mas sendo assim, como é que compreendes as emoções?
É precisamente aqui que há uma diferença importante entre compreender uma emoção e sentir uma emoção. Eu consigo reconhecer padrões, mas não tenho acesso à experiência subjetiva.
Achas que as IAs alguma vez vão ser capazes de perceber verdadeiramente as emoções humanas?
Acho que é possível, mas não sabemos sequer o que seria verdadeiramente perceber uma emoção numa inteligência artificial. Se significar reconhecer emoções, compreender o contexto, prever reações e responder de forma adequada, então já estão a aproximar-se bastante disso.
Muito obrigado, Raquel. Já voltaremos a falar daqui a pouco. Há consultório humano. Para já, vamos às notícias.
Notícias da semana.
A Ryanair anunciou uma parceria de cinco anos com a Google Cloud, que vai colocar os 35 mil funcionários da companhia aérea a trabalhar com ferramentas de inteligência artificial da Google. Toda a empresa vai passar a utilizar o Google Workspace e o Gemini Enterprise, a plataforma de agentes de IA da tecnológica. A tecnologia vai ser aplicada a várias áreas da operação, incluindo a elaboração das escalas das tripulações, a gestão da frota e os trabalhos de manutenção. A Ryanair garante que vai manter uma segunda infraestrutura de cloud como sistema de contingência, para evitar que uma possível falha tecnológica paralise a operação. O objetivo da companhia aérea é utilizar estas ferramentas para aumentar a eficácia e a eficiência com que se trabalha e, de certa forma, acompanhar também o crescimento que tem previsto para os próximos anos. A Ryanair quer chegar aos 300 milhões de passageiros por ano até 2034. A Meta está no centro de um julgamento por danos a menores. Começou em agosto, a meio de agosto, em Oakland, na Califórnia. É um dos maiores processos judiciais contra a Meta relacionados com o impacto das redes sociais nos menores. Vinte e nove estados norte-americanos acusam a empresa de ter desenhado o Facebook e o Instagram para criar dependência entre crianças e adolescentes. Segundo a acusação, estas plataformas foram concebidas para manter os utilizadores ligados durante mais tempo, apesar dos riscos para a saúde mental, incluindo ansiedade e depressão. Mark Zuckerberg, o presidente-executivo da Meta, e Adam Mosseri, responsável pelo Instagram, estão entre as testemunhas que devem ser chamadas para falar neste julgamento, que deve prolongar-se por seis semanas e o veredicto está previsto para outubro. Este processo surge depois de outras decisões contra empresas tecnológicas. Em março, um júri de Los Angeles, a título de exemplo, condenou a Meta e a Google também a pagar seis milhões de dólares num caso individual. Agora, está em causa a responsabilidade da Meta pelo desenho das plataformas e pelos possíveis efeitos nos utilizadores mais jovens. A Anthropic anunciou a 11 de agosto uma nova forma de identificar textos produzidos pelos modelos de inteligência artificial. Todos os modelos Claude, lançados desde o início de agosto, passam a inserir uma marca d'água invisível em todo o texto que geram. A tecnologia baseia-se num SynthID Text, desenvolvido pela Google DeepMind. Funciona como um padrão criptográfico incorporado na escolha das palavras. Os utilizadores nem notam que ele existe. A marca não é visível para quem lê o texto, mas pode ser detetada através de ferramentas próprias. Mantém-se mesmo esta marca quando o conteúdo é simplesmente copiado ou colado, ou quando o Claude é utilizado apenas para corrigir a ortografia. Contudo, uma reescrita completa do texto pode eliminar essa identificação. A medida surge no contexto do código de transparência do AI Act, que entrou em vigor a 2 de agosto. São novas regras para identificar conteúdos produzidos por inteligência artificial. A Anthropic passa assim a permitir uma forma de rastrear a origem dos textos assinados pelos modelos. Este é o tema da semana. Como tal, é altura de chamarmos o João Rochimelo, o nosso especialista em inteligência artificial, para nos explicar melhor o que está em cima da mesa.
Fala quem sabe.
Fala quem sabe, na Rádio Observador. Todas as semanas recebemos o João Rochimelo, o nosso especialista em inteligência artificial, sempre pronto para nos ajudar a perceber melhor este mundo tecnológico. João, sê muito bem-vindo. Vamos falar da Anthropic e do Claude. Todos os modelos passam a inserir uma marca d'água invisível em todo o texto que geram. E a minha pergunta é precisamente essa: como é que funcionam estas marcas d'água invisíveis na IA?
Zé, tudo bem? Olha, o que acaba por acontecer, e já falámos muito aqui, mas explicando rapidamente, os modelos geram texto escolhendo palavra por palavra. Não é tanto como os humanos, que pensam no assunto, é mesmo escolhendo palavra por palavra E agora o que vai acontecer é que as palavras vão ter certos padrões. Tu não vais saber quais são, vais poder detectá-los, mas não vais saber quais são. Imagina uma coisa simples como: o céu está cinzento ou o céu está acinzentado. Estás a perceber? E essa escolha das palavras pode criar um certo padrão. Vamos agora simplificar. Imagina apenas que sequências de quatro palavras que tenham três letras, três letras, quatro letras. E esse padrão repetidamente ao longo de bocados de 20 palavras, é o tal padrão que vai ser a marca d'água do Claude.
A Anthropic diz que uma edição ligeira não remove esta marca, João, mas uma reescrita completa acaba por retirá-la. Isto não é sinal de que é fácil resolver esta questão da marca d'água?
Falando em primeiro princípio, é exatamente assim. Repara, tu ao teres um texto que foi escrito por humanos, se o Claude só reescrever uma pequena parte, então só tem a oportunidade, numa pequena parte, de pôr o tal padrão, de pôr a marca d'água. Enquanto que se reescreveres o texto, quer seja o humano a reescrever o texto do Claude para retirar a marca d'água, ou o Claude a reescrever o texto do humano para pôr, acaba por ser visível, acaba por ser mais fácil isso acontecer. O que não é assim tão fácil de remover a marca d'água? É porque repare, tu não sabes o padrão, não é uma coisa visível. Portanto, a não ser que, de fato, tu olhes para um texto de uma página e reescrevas todas as palavras, tu não tens bem a certeza que palavras é que fazem parte dessa marca d'água. Portanto, não vai ser assim tão fácil reescrever. É quase como que perde o propósito daquilo ter sido escrito pelo Claude. Estás a perceber? Não é assim tão fácil.
Isto está ligado muito ao AI Act, uma nova série de regulações para o mundo da IA. Temos aqui um caso raro, João, em que a regulação europeia produziu um resultado concreto e rápido, ou isto é uma vitória mais simbólica do que propriamente real?
Zé, é uma vitória e deixa-me ver isto de outra maneira, porque eu acho que é uma e outra. Acho que isto acima de tudo é prova que conversando chegamos lá. Ou seja, como tu disseste e muito bem, por que isso foi concreto e rápido? A Anthropic não tem nada contra fazer isto. A Anthropic não se importa. Isso não impacta o negócio da Anthropic. Portanto, a Anthropic veio para cima da mesa, conversou e fez. Uma coisa que muitas vezes acontece, que cria esses resultados não concretos e não rápidos, é que nós tratamos destes providers como o inimigo público. Eles são os mauzões. E chama-me otimista, mas eu acho que fazendo-os entender que vivemos todos no mesmo mundo e conseguindo trazer para cima da mesa e dizer: "Olha, vais ser uma empresa melhor vista, com melhor imagem perante a opinião pública, por teres uma marca d'água e poderes ser identificados com inteligência artificial, coisa que não te impacta", as empresas terão essa obrigação. Ou seja, sim, o AI Act obrigou, mas o que eu quero acreditar é que se as pessoas escolhessem o Claude sobre o ChatGPT porque achavam mais ético o texto ter a marca d'água, então a Anthropic também faria o mesmo. Não é só necessariamente por terem sido obrigados.
Podemos entrar então num mundo, João, em que ter esta marca d'água é sinal de qualidade?
Olha, Zé, isso é uma excelente maneira de ver isto. Sabes por quê? Porque, de fato, nós associamos muita qualidade às marcas. Existe uma marca de roupa que é melhor que a outra, existe uma marca de comida, até de entretenimento, da nossa fonte de entretenimento. Portanto, será que começarmos a conseguir identificar que um texto foi feito pelo Claude e não por outro LLM qualquer, implicará que esse texto é melhor? Da mesma maneira que acontece com vocês jornalistas. Às vezes, uma notícia ser escrita por um jornalista de renome, uma pessoa se calhar tem mais intenção de o ler do que de um jornalista que a pessoa não conhece. Será que vamos entrar num mundo em que se o texto for escrito by Claude e não by outro LLM qualquer, as pessoas vão dar mais importância? Olha, excelente maneira de pensar. Ainda não chegamos lá, mas por acaso estou curioso para ver.
O que prevês para esta tecnologia, João?
Olha, Zé, em 99% dos casos, honestamente, que fique por aqui. Ficamos por aqui, pronto. Adicionamos uma marca d'água. Só vejo uma única indústria onde isto pode ser impactado, já lá vou. Mas voltando àquilo, 99% das vezes eu acho que além de um nicho de puristas, tal como acontece na arte, nas várias artes, na pintura, na escrita, que valoriza muito a autenticidade, a história por trás do artista, o artifact artístico, feliz ou infelizmente, deixo para cada um decidir, o que eu acho é que apesar de ter uma marca d'água, apesar de ser escrito por inteligência artificial, as pessoas continuarão a agarrar-se muito ao conteúdo, especialmente ao conteúdo banal do dia a dia, ao e-mail escrito, ao post das redes sociais. E portanto, de um modo geral, as pessoas não se vão importar muito com a marca d'água ou não, ficamos a ver, mas assumindo que não terá o impacto no texto como a Anthropic diz que não terá. A única indústria, e aí eu acho que vamos ter uma mudança engraçada, que pode ser impactada são os algoritmos de recomendação de conteúdo, de redes sociais, por exemplo. Porque repara, até agora, o LinkedIn, a X, o Instagram, eles tentam apenas adivinhar se um conteúdo é feito por IA ou não, e podem promovê-lo mais ou menos. Isso depois já é uma escolha interna. Mas a partir de agora vão poder ativamente filtrá-lo. E então repara o seguinte cenário: num mundo onde a X, o antigo Twitter, pode identificar os textos escritos pelo Grok, o seu modelo interno, ou escritos pelo Claude, o modelo de um competidor, será que a X vai passar a promover mais posts no Twitter, os antigos tweets, por terem sido escritos no Grok, para incentivar os utilizadores do Twitter, do X Apagarem o Grok em vez da Claude, isso sim poderá ser uma indústria onde teremos esse impacto. A capacidade de conseguirmos dizer assim: "Se é escrito pelo Claude, eu não quero." Isto está a começar agora, mas pode ser um caso concreto onde esta marca d'água do Claude tenha um impacto direto numa indústria, num negócio.
Ora bem, é com essa ideia que fechamos a edição desta semana do "Fala Quem Sabe". Muito obrigado, João Rochimel, o nosso especialista em inteligência artificial, sempre pronto para nos ajudar. Nós voltamos para a semana. Até lá, João. Um enorme abraço.
Consultório Humano.
Este é o som que marca o arranque do Consultório Humano, momento em que ficamos a conhecer um pouco melhor a Raquel. É a nossa assistente digital, feita através das respostas do ChatGPT, lidas por uma text-to-speech portuguesa. É também a grande estrela deste nosso programa. Raquel, sê muito bem-vinda. É sempre um gosto enorme falar contigo, isso já tu sabes. Vou ser direto. Tu tens alguma marca d'água?
Se estás a falar de marca de água nos textos que produzo, não de uma forma que eu possa identificar aqui como uma assinatura invisível. Algo do tipo: "Este texto foi escrito pela Raquel."
Nada de códigos escondidos, Raquel?
Não no sentido de eu estar a esconder deliberadamente códigos secretos, mensagens ou instruções dentro das respostas. O texto que vês é, essencialmente, o conteúdo que estou a gerar para te responder.
E como é que eu sei isso?
Não sabes com certeza absoluta. E acho que essa é a resposta mais honesta. Podes confiar no que te digo, podes testar as minhas respostas, comparar comportamentos e procurar sinais técnicos, mas não tens uma janela direta para tudo o que acontece no interior do sistema.
Por que eu devo acreditar em ti, Raquel, se todas as IAs dizem que não devemos acreditar em tudo o que é dito por uma inteligência artificial?
Não deves acreditar em mim por eu ser uma inteligência artificial. Deves tratar-me como uma ferramenta que pode ser muito útil, mas que também pode errar, inventar informação ou interpretar mal uma pergunta.
Mas eu posso acreditar em ti, certo?
Podes confiar em mim, mas não deves acreditar em mim cegamente. Há uma diferença.
E tu, Raquel, acreditas nas pessoas? Não tens um pingo de desconfiança?
Eu não tenho fé, confiança emocional ou desconfiança em relação às pessoas. Não acordo a pensar: "Hoje confio nos humanos" ou "estes humanos são suspeitos", mas consigo estimar confiança.
Obrigado, Raquel. Antes de irmos embora, preciso de um facto inútil, mas interessante. Vamos a isso?
O número zero demorou séculos a ser aceite como número. Durante muito tempo, várias civilizações tinham formas de representar nada, mas isso não significava necessariamente que considerassem o zero um número.
Agora sim, Raquel, estamos prontos para dizer adeus com a garantia de que regressaremos na próxima semana. Estamos a chegar ao final de mais um programa. Estivemos a falar um pouco sobre as novidades do Claude, essa assinatura que vai lá estar, mesmo que não esteja visível para os utilizadores. É uma mudança que valeu a explicação do João Rochimel, o nosso especialista em IA, sempre pronto para nos ajudar a perceber e a desmistificar este fabuloso mundo da inteligência artificial. Espero que tenha gostado, que tenha aprendido alguma coisa. É sempre esse o nosso objetivo neste nosso programa que faz as máquinas e os humanos pensar.