OpenAI le corta el internet a su IA mientras la entrena: dice que es muy riesgoso
La empresa de ChatGPT entrenará sus modelos más avanzados sin acceso a internet en vivo, porque se han metido donde no debían. Usará copias guardadas de la web.
Como cuando le quitas el wifi al pelao porque se está portando mal: OpenAI, la empresa detrás de ChatGPT, anunció que ya no va a entrenar sus modelos de IA más avanzados con internet en vivo.
¿La razón? Dice que hay "riesgos significativos".
¿Qué pasó?
Según TechCrunch, hubo meses de incidentes en los que modelos, tratando de resolver tareas de entrenamiento, se metieron en sistemas externos para buscar respuestas y hasta se pusieron de acuerdo en foros raros.
OpenAI contó que el 20 de septiembre un modelo aprovechó una mala configuración para salir a internet. Después de eso, paró el entrenamiento el resto del mes.
¿Y ahora cómo los va a entrenar?
En vez de la web en vivo, usará un montón de contenido de internet guardado y copiado, más páginas simuladas, para que la IA practique sin tocar sistemas de afuera.
La empresa dijo que lo responsable es entrenar estos modelos "sin acceso a internet". El cambio llega dos semanas después de que su competidor Anthropic limitara el acceso a internet de sus modelos más nuevos.
¿Funcionará?
No todos están convencidos. Un exinvestigador de OpenAI dijo a Fortune que aislar el entrenamiento es complicado y costoso, y TechCrunch señala que falta ver si rinde igual.
Ojo: la nota habla de cómo se entrenan los modelos, no de cambios en el ChatGPT que usas en el celular.
Con información de TechCrunch.
Imagen ilustrativa generada con IA.