07 August 2025

Geoffrey Hinton, godfather of AI: "I Tried to Warn Them, But We’ve Already Lost Control"

(ver também aqui e aqui)
Posted by at
Labels: , , , , , ,

13 comments:

alexandra g. said...

Há algum tempo que o sigo, mas suponho que tod@s deveríamos recordar (first things first) que a própria internet foi concebida com/para fins militares.

Qd trabalhei com informáticos, a IA era usada para apoiar projectos de investigação na Medicina, por exemplo. Neste momento, creio que tod@s sabemos que, mesmo largando os tlms, os portáteis, etc., já estamos totalmente enredados e sem fuga possível no que à reclamação da nossa liberdade de invocar a privacidade, a intimidade, até, desejamos, e à qual é suposto termos direitos constitucionalmente escritos...

A great, huge, dangerous joke, that's it!

Etc., até ao dia em que tod@s finalmente percebam. É que estou absolutamente convicta que tudo isto passa ao lado de muitos, demasiados milhões de pessoas :(

8/07/2025 10:31 PM
João Lisboa said...

"É que estou absolutamente convicta que tudo isto passa ao lado de muitos, demasiados milhões de pessoas"

E, quando se derem conta, não vão poder dar-se conta.

8/08/2025 12:02 AM
Miguel said...

Anda tudo maluco a dizer que a AI agora é como um PhD student, o Dâmaso confirmou-mo.

Pois eu hoje perguntei ao chato do gpt se a versão 5 está disponível. O gajo disse-me que não. Eu respondi-lhe "How come?!" e atirei-lhe com uns artigos de jornais, incluindo o do Público. O mano respondeu-me, é pá, meu, tens razão, mas é qu'eu por defeito vou à memória estática, que é de 2024. Eu disse-lhe então "Mas com mil neurónios, eu pergunto-te today se o gpt-5 está aí prás curvas e tu vais ver a 2024? " Observação very important, responde-me ele, grande oportunidade para detalhar como funciono, take note since this is most important. Quando me fizeste a pergunta, eu não reconheci que a resposta dependia on post-training information, e por isso respondi com cached data. Eu devia ter pensado imediatamente: Wait - it's August 2025, that might have changed since my last update.

É isto o estudante de licenciatura que os "génios" Altman, Musk (e agora este) e o caraças nos andam a vender. Isto é mas é o faroeste e os gajos são os dentistas du coin (o Dâmaso acabou de ter uma recaída francófila, nda de grave passa depressa). A super-inteligência e o caraças. Pergunta-lhes how is LLM's performance on Chollet's ARC test. Raios qu'os parta!

8/08/2025 3:24 PM
João Lisboa said...

Sou um bocadinho infonabo, por isso, nestes terrenos, ando sempre em bicos de pés. Mas concordo bastante com o fulano que avisa "fear is a man's best friend"

8/08/2025 4:46 PM
Miguel said...

Claro que devemos ter medo, medo dos tipos que estão por trás das máquinas, não que as máquinaas se tornem espontaneamente "exterminadoras". Elas tornar-se-ão perigosas se alguém assim o decidir. Estou farto das tretas do Tegmark et al. a propósito do "alignment" da IA connosco. É urgente é ter mão nos aprendizes de feiticeiro. Um gajo na idade da reforma compulsiva a dizer que se despediu para poder contar a verdade... O Debord não sabia da missa a metade.

8/08/2025 10:36 PM
João Lisboa said...

"Um gajo na idade da reforma compulsiva a dizer que se despediu para poder contar a verdade..."

A questão não é erigir-lhe ou não lhe erigir uma estátua. A questão é saber se o que ele afirma está certo ou não.

8/08/2025 11:46 PM
Miguel said...

A forma como o faz , bem como o conteúdo extremamente diluído e pouco realista, deixam -me muito dubitativo quanto às suas intenções e/ou discernimento. Todo o vídeo diga-se apela muito ao "pathos" , pouco à razão. Luc Julia , François Chollet ou, num tom mais a brincar e não especializado, Benjamin Bayart, são muito mais pertinentes. Olha, acabei de reparae que os três são franceses -- será coincidência?

8/09/2025 9:47 AM
Miguel said...

Aliás, a liberdade com que se exprimem Luc Julia e Yann Le Cun (ambos trabalhando em Silicon Valley, sobretudo o último como director científico na Meta) são contra-argumentos à necessidade de uma renúncia heróica ao posto para nos vir contar toda a verdade. E eu estou longe de concordar com o Le Cun, que também me parece ingénuo. A história da ciência está repleta de enormíssimos cientistas que, por "hubris", provocação, ou desiquilíbrio mental, para se fazerem importantes, acabaram a defender teorias estapafúrdias (Pauling, por exemplo). É um lugar-comum da pop culture dos nerds (inventei esta).

8/09/2025 10:04 AM
Anonymous said...

O Anónimo-Miguel está repleto, obeso mórbido, diria mesmo, de referências: ele é nomes, ele é situações, ai eu! (como dizem por aqui os aldeões mais antigos).

Se há discurso que não entendo (entendo) é este: um rol à la Magna Carta para não dizer rigorosamente nada, excepto uma evidência sobre a história da ciência, como poderia ser da comparação entre as diferenças na gastronomia, à healthy influencer on what to eat/not to eat, ou qq outro assunto da porra.

Long live inteligibilidade!

8/09/2025 10:35 PM
Miguel said...

O anónimo sugere que o Anonyme compare os argumentos dos acima citados e tente formar uma opinião. É tudo.

8/12/2025 10:30 PM
alexandra g. said...

Ora então, uma ordem de comando em jeito de sugestão e, pasme-se, "é tudo!"!!!
Não tivera eu severos problemas com as questões da "autoridade", além do facto - absolutamente comprovável & com bastas testemunhas - de me esquecer de iniciar sessão, eis que, tcharam!, coiso: mas sucede, contudo, que há demasiado tempo considero e sublinho que isso da "opinião" a nada mais se pode comparar que a um 'desporto olímpico'. E eu não entro em competições, são cousa imbecil para quem delas necessite, o que não me assiste.

8/13/2025 1:12 AM
Miguel said...

Ó Alexandra, questões de autoridade?! .... Eu bebi o leitinho com a Revista do Expresso nos seus tempos áureos, tomando as suas bastas referências/citações como convites à exploração pelos meus próprios meios, incluindo os dos meus amigos. Nunca me senti incomodado por o articulista citar este ou aquele. Pelo contrário. Se as sugestões não te interessam, passa à frente. Pas de problème.

Extra: se sugiro que se leia esses senhores que cito, é porque eles sabem muito mais do tema do que eu. E porque me parecem bastante mais imparciais do que a propaganda anglo-saxónica, onde parece intervir demasiado todos os seus pesadelos de hegemonia mundial . Eu apenas tenho experiência como utilizador na minha área científica e as limitações que encontro quotidianamente nos LLMs não batem certo com os prodígios que sobre eles se conta. O que o Chollet conta encaixa bem na minha micro-experiência. Mas me não vou pôr a contar detalhes técnicos numa caixinha de comentários. Contei uma anedota e já nåo é mau.

Lê ou ouve o Chollet e o Julia, o pior que te pode acontecer é aprenderes alguma coisa.

8/13/2025 2:23 PM
Miguel said...

Benjamin Bayart, Le vieux con des internets

Intelligence artificielle, bullsh*t, pipotron ?

8/13/2025 2:29 PM

Post a Comment

Subscribe to: Post Comments (Atom)