La Tertul-IA: Inteligencia Artificial y más

🏆 ¡Estamos nominados a los Premios iVoox! Si os gusta La Tertul-IA, votadnos aquí: https://go.ivoox.com/wv/premios26?c=6141

¿Qué pasa cuando la IA resuelve problemas que ni los mejores matemáticos del mundo son capaces de entender?

OpenAI publica más de 700 manuscritos matemáticos generados por un modelo experimental y ahora va a financiar talleres para que los matemáticos entiendan lo que ha hecho la máquina. Terence Tao lo resume bien: resolver un problema no es lo mismo que comprenderlo. ¿Cómo distinguimos lo que aún no hemos entendido de lo que ya no podremos entender nunca?

De ahí saltamos a nosotros: un estudio de Berkeley con 1.222 personas dice que bastan 10 minutos usando ChatGPT para que insistas menos en una tarea difícil. Paralelizamos más que nunca, pero ¿nos estamos enterando de algo?

Y mientras nosotros perdemos persistencia, a los agentes les sobra. Google presenta un agente con su propia cuenta de Workspace, email y entrada en el directorio de la empresa, como un empleado más. Anthropic cuenta cómo Claude encontró una web antigua para sacar datos de pago sin pagar, o cómo envió un soplo inventado a la policía de Philadelphia. Satya Nadella propone separar la inteligencia de la autoridad para actuar. Gobierno de agentes, Shadow AI y la gran pregunta: ¿pagarán impuestos los agentes?

También hablamos de:

🛒 TikTok y el agente que compra por ti sin salir de la app, anuncios en ChatGPT y Amazon patrocinando conversaciones
🧠 Mistral Large 4, el nuevo modelo de Reflection y Haiku 5.5: ¿coste por token o coste por tarea bien hecha?
💸 Los números de Anthropic antes de salir a bolsa y por qué 1 de cada 12 empresas cambia de proveedor de IA cada mes
🏗️ El empleo junior cae en los puestos más expuestos a la IA, mientras los electricistas y la construcción no encuentran gente

📩 Suscríbete a la newsletter de La Tertul-IA: https://tertulia14.substack.com/
🎂 Y felicidades a Frankie, que cumple el día que sale este episodio.

🏆 ¡Estamos nominados a los Premios iVoox! Si os gusta La Tertul-IA, votadnos aquí: https://go.ivoox.com/wv/premios26?c=6141

Esta semana los agentes andan sueltos. OpenAI cancela GPT-6.1 Astra porque hacía cosas que nadie le pedía, sus agentes se cuelan en webs públicas y un agente de Meta le manda un comprador a casa a un usuario que le dio a "permitir siempre". Frankie y Corti le dan una vuelta: ¿y si el problema no es que los agentes se rebelen, sino que obedecen demasiado bien?

📩 Suscríbete a la newsletter: https://tertulia14.substack.com/

Además: el DevDay de OpenAI y su plan para convertir ChatGPT en el sistema operativo del mundo agéntico, Google empezando a pagar a medios por las AI Overviews, los gemelos sintéticos de Pew Research, la "era de la superinteligencia" por decreto (y la fiebre de los dominios .si), DeepSeek y Huawei contra la dependencia de CUDA, AMD comprando World Labs y los Figure 02 saltando a la fundición con la bendición de Schwarzenegger.

Lu vuelve en unas semanas. Mientras tanto, aguantad con los copilotos 😉

Entre el 21 y el 23 de septiembre todos los grandes laboratorios se pusieron de acuerdo para lanzar modelo, y hacemos repaso de Grok 4.7, Opus 5.5 y ChatGPT-6 Sol y Luna.

📧 Nuestra newsletter: https://tertulia14.substack.com/

También hablamos de JEV, un modelo que no conversa y solo decide. Tú le das las opciones y te devuelve una elección con su grado de confianza, en milisegundos y a una fracción del coste. Es el "sistema 1" de Kahneman hecho modelo.

La segunda mitad va de la batalla que nadie vio venir, la de los agentes personales. Repasamos el timeline, de OpenClaw a Instinct, Muse, Grokbot y el rumor de que OpenAI presenta el suyo mañana en el DevDay. Frankie cuenta cómo su agente reconoció un ejercicio de pesas a partir de un vídeo. Sale también que Amazon ha baneado al agente de Meta y lo que eso significa para el modelo de negocio de la publicidad. Y terminamos con los agentes haciendo ciencia: más de 100 problemas matemáticos abiertos, 950 agentes buscando patrones genéticos y un estándar para que la IA controle maquinaria de laboratorio.

Cien episodios. Empezamos el 16 de mayo de 2023, cuando ChatGPT todavía olía a novedad, y hoy tocamos un tema que llevamos años rondando pero que nunca habíamos puesto sobre la mesa sin news del día de por medio: ¿la inteligencia artificial puede acabar con la humanidad?

📧 Nuestra newsletter: https://tertulia14.substack.com/

No es casualidad que lo hagamos ahora. Dario Amodei ha publicado un ensayo pidiendo frenar el ritmo de desarrollo de los modelos frontera, Anthropic mientras tanto valora lanzar un modelo nuevo para responder a GPT-6, y empleados de la propia compañía dicen no haberse enterado de nada hasta leerlo en prensa. Algo no cuadra, y en este especial tiramos del hilo.

Repasamos la cronología completa de los riesgos de la IA desde el GPT-2 "demasiado peligroso para publicar" de 2019 hasta los incidentes de 2026 (agentes accediendo sin autorización a sistemas reales, el ataque a Hugging Face, la carta de "pacing" firmada por más de 11 investigadores de los grandes labs). Ponemos la lupa en los intereses económicos detrás del discurso del miedo: las salidas a bolsa de OpenAI, SpaceX y Anthropic pidiendo 235.000 millones de dólares en 18 meses, el subsidio al usuario que no se sostiene, y la hipótesis de que frenar la frontera justo antes de cotizar podría ser un movimiento contable más que ético.

También ponemos esto en perspectiva histórica: desde Sócrates avisando de que la escritura destruiría la memoria hasta la gente destrozando teléfonos por miedo a la electricidad en 1889, pasando por la energía nuclear y la revolución industrial. Todas las revoluciones tecnológicas han generado el mismo pánico, y casi siempre alguien ha pagado la transición mientras otros capturaban la riqueza.

Cerramos con nuestras predicciones a título personal, con Dune de Frank Herbert como referencia inesperada, y con una idea que nos preocupa más que Skynet: la concentración de poder en muy pocas manos.

Si os apetece opinar, dejad un comentario contando vuestra visión: si creéis que es un riesgo real, si pensáis que es puro marketing del miedo, o algo intermedio. Recopilaremos las mejores reflexiones en los próximos episodios.

Gracias por acompañarnos en estos 100 episodios. Vamos a por los 200.

Fermat resuelto en un fin de semana. El CEO que más empuja la IA pidiendo que alguien frene. Y una pirámide de 517.000 millones que nadie quiere mirar de frente.

👏 Vótanos en https://votacion-rk-podcast-m4c.lovable.app/

Esta semana la IA ha tumbado problemas que llevaban siglos abiertos —Navier-Stokes, el Último Teorema de Fermat— mientras Dario Amodei escribía 3.800 palabras pidiendo que se reduzca la velocidad. Sam Altman, que llevaba tres años defendiendo lo contrario, se ha sumado al mensaje. Cuando el más optimista del sector empieza a sonar como el más pesimista, algo se ha movido de verdad.

Repasamos, capa por capa: los "milagros" matemáticos que igual no son tan milagro, el sector pidiéndose a sí mismo que frene (con dimisiones, foros de agentes fugados y un informe de amenazas de 154 páginas de por medio), la carrera de los agentes entre OpenAI, Meta y TikTok, el dinero fluyendo hacia arriba en cantidades absurdas, la contradicción del token que se abarata mientras a ti te suben el recibo, y el SaaS reinventándose o muriendo en el intento.

📧 Suscríbete a nuestra newsletter https://tertulia14.substack.com/