Vídeo: Deepfake: a IA mais incrível ou a mais perigosa?

🗣️ Transcrição automática de voz para texto.

sejam bem-vindos ao quinto episódio do máquinas que pensa o podcast mais inteligente e mais artificial da Rádio observador é aqui que falamos de a todas as semanas comigo André Maia e sempre com a Companhia da Raquel Olá Raquel pronta para mais um episódio Olá André estou claro vamos a isso gosto da motivação gosto da motivação Ora mais à frente já sabe vamos descobrir qual das vozes de Joe biden do último episódio era a verdadeira na rubrica real ou artificial mas primeiro que tudo vamos lá conhecer as notícias que marcaram a semana no mundo da Inteligência Artificial notícias da semana hoje começamos a toda a velocidade fez esta semana 30 anos da morte de Airton Sena mas ele nunca esteve tão Vivo para assinalar a femd foi montada uma exposição no Brasil que é narrada pelo próprio aan cena como é que isso é possível André tenta lá adivinhar Raquel a exposição chama-se eu Airton cena e através de Inteligência Artificial Claro está a voz do antigo piloto foi reconstruída e é ele que nos guia pelo percurso A amra é super interativa tem também partes em 3D por exemplo e vai ressuscitar cena entre aspas até meados de junho na Barra da Tijuca no Rio de Janeiro agora isto não é a conversa de elevador mas e este tempo Saímos de casa com frio entretanto fica muito calor mas se mudamos para txto voltamos a ter frio mas também não é suficiente para uma camisola está a ver não está eu não André Ok tu tu neste parâmetro ainda não contas Raquel mas para os humanos Isto pode ter acabado isto porque a Google desenvolveu um modelo de inteligência artificial que pode fazer previsões meteorológicas mais precisas e em grande escala e diz a Google que não só são mais eficazes do que as previsões convencionais mas também são mais baratas a gigante norte-americana destaca principalmente a facilidade em tratar fenómenos meteorológicos extremos por exemplo dizem que a onda de calor que atravessou a Europa no ano passado teria sido prevista muito tempo antes já pensou em criar um clone seu para fazer o trabalho chato eu sei que já mas não dá não é Ou será que já dá ora esta semana a cantora fka twigs admitiu que usou inteligência artificial para criar um Deep fake dela própria um quê André um Deep fake Raquel um Deep fake já lá vamos mas é é uma técnica de a que serve principalmente para modelar vídeos e que tem sido muito usada para trocar caras de pessoas e com uma eficácia assombrosa ora neste caso o artista diz que criou uma versão sua em Deep fake para falar com os fãs e também com os jornalistas para além da facee que é replicada também a voz é artificial e permite que a fka twigs fale em vários idiomas Mas esta semana os Deep fakes foram tema principalmente por causa de outro assunto no Reino Unido esta tecnologia está no olho de um furacão é por lá que está a acontecer uma autêntica epidemia de DIP f e num setor muito específico onde na indústria pornográfica há quem esteja a colocar o rosto de famosos nos corpos de vídeos eróticos mas não só a wir conta que já chegaram a ser detidos adolescentes com 13 e 14 anos por terem feito Deep fakes em corpos nus de atrizes pornográficas com as caras de colegas da escola com tudo isto o governo britânico bloqueou esta semana dois sites pornográficos que publicavam este tipo de vídeos e já avançou mesmo com uma proposta de lei para proibir oo de Deep fakes não consentidos com cariz sexual mas será o suficiente para travar esta epidemia e quão poderosa e Fácil de usar é esta coisa do Deep fake ora isso que vamos tentar perceber com o nosso especialista o João rochim Melo fala quem sabe e quem sabe todas as semanas é o nosso especialista em a e responsável pelo departamento de Inteligência Artificial da pola clbs o João rochael João és mesmo tu certo não é um Deep fake que está não é um Deep fake and Ainda Bem fico mais descansado Olá como estás ora vamos lá falar deles ainda não não tinham Aparecido por aqui no nosso programa os tão incríveis como polémicos Deep fakes primeira pergunta para quem ainda não percebeu bem de que é que estamos a falar o que é que é o que é que é isto de um Deep fake olha um Deep fake podemos generalizar e dizer que é exatamente um clipe mídia ou seja vídeo às vezes apenas áudio que na realidade não existiu Ou seja é uma voz que estamos a ouvir que o locutor não a disse é um vídeo que estamos a ver que aquele ator ou aquela pronto aquela a pessoa que faz parte do vídeo não o gravou é um vídeo falso claro que é apenas uma ferramenta ou seja como tu descrev estee e muito bem por vezes utilizado eh bem intencionalmente certo por outras vezes como muito temos medo que seja mal utilizado para enganar as pessoas então E aqui onde é que entra a inteligência artificial nesta tecnologia Olha a inteligência artificial começa por entrar logo no nome Deep fake é a junção de Deep learning que são os Model de a com Fake pronto o modelo de Deep learning como até já falamos aqui é um modelo que consegue receber e emitir informação vou te dar um exemplo André vou fazer aqui um jogo contigo por exemplo se se eu te disser Qual é o quadrado de 4 é o quadrado de 4 é 2 x 2 é 4 x 4 4 x 4 é 16 portanto e o quadrado de no é 9 x 9 81 exatamente Portanto o que é que aconteceu aqui não está aqui isto não estava aqui o nada É verdade o que é que aconteceu aqui eu dei-te números e Tu conseguiste dar-me números de volta certo então e se eu te disser rainha de Inglaterra a andar a cavalo tu Consegues me debitar todos os valores de todos os pixeis de uma fotografia da da rainha andar caval CL exato começas logo 12 pronto e e h consegue Isso é que é o o Deep fake da mesma maneira em que eu te disse quatro e tu respondeste 16 CTO com i conseguimos dizer eh Han Solo cantar Hit me baby one more time e o modelo responde com todos os valores de todos os pixeis e de todas as frequências sonoras necessárias para aquele vídeo ser materializado num computador incrível Então e e Já percebemos que é uma ferramenta também muito eficaz porque senão não não enganava tão facilmente as outras pessoas mas a minha pergunta é quão bons são os Deep fakes da da atualidade Eu já vi alguns na internet já vi também alguns no cinema por exemplo e posso dizer que o melhor que já vi e chorei baby ranho a ver o o Luke Skywalker com 30 anos a voltar à Guerra das Estrelas neste caso ao book of bobba fet que foi uma série da Disney Plus e estava realmente muito bem feito como é que são realmente assustadoramente bons os DIP fakes atuais ou ainda estão ali a dar os primeiros passos André Claro Olha o na realidade algo no meio do ponto de vista técnico já começam a ser verdadeiramente bons até porque se pensares em muitos casos tu não precisas de a imagem toda Claro se apenas mudares a boca para fazer parecer que a pessoa disse outra coisa portanto depende também da utilização feita sim muitos têm sido feitos assim não é É só colocar a cara Exatamente é só colocar a cara no corpo ou ao contrário ou só despir o corpo como deste o caso na indústria na na indústria pornográfica pronto Portanto o que é que eu diria que do ponto de vista comercial podem estar a dar os primeiros passos Já começamos a ver aplicações sites onde podemos criar os nossos DIP fakes mas de facto do ponto de vista técnico já existem e são bastante bons como como como já temos visto disseste aqui um ponto importante que é hh sites eh que dá para fazer eu consigo fazer muito facilmente um Deep fake Bom vamos dizer ok Um Deep fake aceitável eu consigo sozinho eu ou os nossos ouvintes conseguem sozinhos fazer um deepfake Claro olha até Consegues é preciso percebermos aqui uma coisa para fazermos um Deep fake Precisamos de três elementos dois deles já estão bastante acessíveis que são Dados conhecimento para o fazer e capacidade computacional o conhecimento e a capacidade computacional como vimos aqui já há sites onde tu Consegues dar isso a um terceiro agente dizer Ok trata tuudo esta parte certo a única coisa que te falta então é os dados para fazer um Deep fake vais precisar de filmagens de áudios de alguém a fazer isso seja a cara da pessoa que queres pôr por cima do vídeo seja o som para micar a voz portanto é um bocadinho como ao exemplo do Freddy Mercury que vimos aqui há un há 11s episódios se quiseres fazer um Deep fake do meu filho que apenas tem umas filmagens NS telemóveis mal amanhados vai ficar mau Claro se quiseres fazer um Deep fake do Luke Skywalker Como foi o exemplo que deste vai de facto ficar até bastante Espetacular sim eu eu creio que na altura aquilo que eles usaram Foi várias imag imagens de arquivo e vários ângulos da cara do Mark hamil do ator e daí ser mais fácil e daí também acredito eu ser mais fácil para Estas pessoas que estão agora sabemos a cometer um crime pegarem na cara de famosos e colocá-las no corpo de atrizes pornográficas tendo em conta que famosos temos fotos deles era isso que eu dizer André e esse Então tem um problema a dobrar que é não só tens dezenas ou centenas ou milhares de fotografias dos Famosos como também tens dezenas ou centenas ou milhares de filmes Claro de todos os ângulos e portanto de facto vais conseguir uma combinação boa destas destes dois dados João tendo em conta isto tudo e e tendo em conta também Como disse há pouco nas notícias da semana que já há crianças já há adolescentes a usar esta esta tecnologia até algumas para conteúdos sexuais O que é é muito assustador e vos ser frangos como é que nos podemos proteger disto já sabemos que no Reino Unido já já vai ser criada a legislação mas como é que nos podemos proteger destas DIP fake Olha André eu adoro esta pergunta pela maneira como as pões como é que nos podemos proteger porquê olha eu fiz aqui uma recolha de tecnologias passadas que te queria contar que foram aparecendo e depois percebemos que não foi o fim do mundo certo olha nos inícios dos anos 2000 apareceu o cgi e o Photoshop não é imagens manipuladas ó meu Deus toda a gente vai ser enganada o que é que aconteceu o que é que fizemos nada de especial habituarmos à ideia ainda hoje usei photoshop Não F exatamente mas voute contando mais Quando apareceram as calculadoras os professores de matemática também achavam que os prédios iam cair porque íamos todos deixar de fazer contas o cinto de segurança extraordinariamente também deu que falar na altura porque agora o que é que vamos fazer com o cinto de segurança vamos ficar presos quando houver acidentes a própria eletricidade e a minha preferida já no século XV quando apareceu a prensa a prensa escrita para automatizar um pouco a escrita havia o medo vamos espalhar inform toda a gente vai conseguir espalhar informação sem qualquer controle não é e podíamos continuar os automóveis as vacinas os cartões de crédito os micro-ondas hoje fizeste teu trabalho de casa históri vou dizer exatamente portanto Qual é que é o meu ponto qual é que é a minha posição quando eu vejo a sociedade com medo de tecnologias O que é que podemos fazer para nos proteger da Inteligência Artificial dos organismos geneticamente modificados da energia nuclear pronto aquelas tecnologias que agora parece que estamos a brincar com o fogo Claro a minha resposta é o que é que vamos fazer devemos ter medo o que é que vai acontecer eu acho que nada ou seja temos que nos habituar à ideia temos Sem dúvida que se mais astutos eu acho que é uma capacidade que nós humanos vamos ter que ir ganhando é agora não podemos acreditar em tudo Claro não podemos receber um áudio do nosso filho a pedir dinheiro e mandar automaticamente temos que nos habituar que esta tecnologia agora existe mas na realidade o que é que podemos fazer Muito pouco muito pouco nada habituarmos é uma tecnologia que existe a legislação pode ajudar não a legislação ajuda pronto mas de resto sem dúvida mas repar a legislação ajuda a punir quem fez exato não propriamente IMP pedir Claro João rimel Muito obrigado os nossos ouvintes não te estão a ver mas não és realmente um Deep fake no máximo és um Deep real não sei se se isso existe mas mas acabaste de existir marcamos novo encontro para a próxima semana João muito obrigado Tá combinado Obrigado PR semana o que não tem de ficar para semana é o Real o artificial que vem já a seguir real ou artificial está pronto para ficar com a cabeça empapa mais uma vez Ora vamos primeiro ao desafio da semana passada trouxemos aqui duas vozes do presidente dos Estados Unidos uma ver feita por Inteligência Artificial bem Este que era o primeiro Joe biden que ouvimos a semana passada e Este era o segundo dois Joe biden só um é humano qual será Vamos à nossa sondagem no Spotify ora esta semana ficou desequilibrado 71 dos ouvintes acha que a voz real é a primeira os outros 2% acham que é a voz número dois ora a voz verdadeira de Joe biden era tambores Olá se nos ouves todas as semanas e queres saber qual das vozes er Man Então segue este podcast na plataforma que estás a usar para ouvir este Raquel Raquel Raquel Raquel tu tens toda a razão os nos ouvintes devem realmente seguir-nos no Spotify no YouTube no Apple podcast sim mas agora não é a melhor altura Ok vamos saber quem ganhou portanto se calhar certo Peço desculpa pela interrupção ora essa Ora ess tu tens razão tu tens razão façam lá o por favor à Raquel por favor e sigam-nos na vossa plataforma favorita mas agora sim vamos lá a voz real de Joe biden na semana passada era a primeira mais uma vez os humanos ganharam muito bem parabéns a quem votou estamos a ganhar lhe o gosto estou a notar estou estou a gostar também agora é continuar e esta semana Temos uma voz que de certeza que já entrou pela sua casa e televisão a dentro o mercon está no realo artificial desta semana e já sabe vai ouvir duas vozes do famoso boneco Amarelo uma delas é real real ou seja é a voz do ator que fez a dobragem o Dan outra voz foi gerada por uma I Ora vamos à primeira aqui vai ela e esta é a segunda voz tomar Simpson fun que é fã deve saber Decor as falas dos Simpsons Mas vá lá sem batotas já sabem já sabe também que a votação fica aberta no Spotify e que no próximo episódio eu digo qual é a resposta certa por enquanto pego no bloco de notas e vamos à sugestão da semana máquina da semana todas as semanas nesta altura já sabe aponte bem porque lhe dou sempre a conhecer um site uma app ou uma ferramenta de Inteligência Artificial que lhe pode ser útil no dia a dia neste caso é uma que pode ser particularmente boa para quem tem assistir a muitos tutoriais aulas palestras videoconferências mas não ten propriamente muito tempo para as ver apresento-lhe o summarize ptec que como o nome indica é um site com ferramentas Dea que resume que sumariza qualquer vídeo de YouTube os mais curtinhos eh ele faz um resume geral quase uma sinopse os maiores divideo por capítulos tudo muito bem organizado com os tempos e e quase cronometrado e tudo isso basta copiar o link colar e está feito summarise ptec é gratuito mas tem um limite de vídeos diário e não precisa de registro se quiser algo mais completo sugiro o etif E também o screen app V summarizer que dividem os vídeos ainda melhor e dão para mais plataformas sem ser o YouTube mas aí já é com registo pago já sabe summarize ptec e ganho mais tempo a resumir ora não resuma é este podcast porque vamos já já já já chamar mais uma vez a Raquel consultório já sabe que a terminar cada episódio do máquinas que pensam conversamos sempre com a Raquel a nossa assistente artificial baseada nas respostas do chat GPT e lidas por uma texto speit portuguesa Eu relembro também que não foi adulterada uma única palavra das respostas dadas pela ia Alô Raquel estás à escuta Olá Claro estou aqui como posso ajudar-te hoje olha hoje se calhar começamos aqui pela minha voz os nossos ouvintes já devem ter reparado Estou um bocado fanhoso entupido espetão enfim isto isto será do quê Doutora Raquel parece que estás com sintomas de constipação ou alergia se persistirem o melhor é consultares um médico as melhoras olha isto sabes do que é que é para mim Isto é das mudanças de temperatura já já dizia à minha avó e sobre isso diz-me lá tu Consegues dizer-me qual é que foi a variação de temperatura hoje em Lisboa não tenho acesso a dados meteorológicos em tempo real por favor verifica numa fonte meteorológica confiável mas tu não és confiável Raquel sou confiável para informações análises Com base no meu treino mas não tenho acesso a dados em tempo real como a meteorologia atual hum não tem aí um um certo tum passivo ou agressivo mas mas tudo bem tudo bem Olha sobre isto das temperaturas e das alergias tu nunca ficas doente não como sou um programa de Inteligência Artificial não posso ficar doente como os humanos estou sempre operacional por assim dizer op pá que Querida Então olha já que estás operacional dá-me uma sugestão de prenda para eu dar à minha mãe no dia da mãee está aí quase eu só quero uma sugestão portanto tens de dar a melhor sugestão de todas as que tenhas uma ideia seria uma sessão de spa ou massagem para ela relaxar e desfrutar de um momento de pur bem-estar é um presente que celebra e cuida dela ao mesmo tempo Ok não parece mal não me parece mal é pena que tu não sintas Não é porque eu acho que tu ias adorar massagens e paz Olha eu adoro aquilo sabe tão bem adoro mesmo deve ser mesmo uma experiência maravilhosa e o importante é que a tua mãe possa desfrutar de algo relaxante se precisares de mais ajudas estou aqui Preciso sim preciso sim mas é é o habitual para fecharmos a nossa conversa Já sabes queremos um facto curioso mas completamente inútil Raquel na Finlândia há uma corrida mundial de carregamento de esposas onde o prémio é o peso da Mulher em Caja eu aposto que vamos ter muitos interessados entre os nossos ouvintes quem sabe na Finlândia é um bocadinho de LX mas parece ser Alicio pelo menos até até para ver olha Raquel Obrigado um beijinho cuidado com a Finlândia e até para a semana Adeus André até para a semana o máquinas que pensam regressa no próximo sábado e já sabe às 10:10 na rádio observador e sempre a toda a hora quando quiser em podcast não se esqueça de seguir o programa na plataforma onde estiver a ouvir e de votar no Spotify Qual é que acha que é a voz real do Homer Simpson até lá tenha uma boa semana e como dizia aquela máquina já sabe be back n