OpenAI disuelve al equipo que evaluaba los riesgos catastróficos de su IA
OpenAI habría disuelto una de sus divisiones encargadas de evaluar los riesgos catastróficos de sus modelos de inteligencia artificial. Un reporte menciona que la empresa realizó ajustes internos de cara a su salida a bolsa y eliminó a uno de sus equipos más importantes . La decisión llega apenas semanas después de que uno de sus agentes de IA enloqueciera y hackeara a Hugging Face. De acuerdo con Financial Times , OpenAI disolvió su equipo de preparación a finales del mes pasado. Este grupo se encargaba de evaluar si los modelos de la compañía representaban riesgos graves y diseñaba mecanismos para mitigarlos antes de que se materializaran. Según el reporte, esas responsabilidades se repartieron entre los equipos de ciberseguridad, bioseguridad y otras áreas específicas. Los cambios formarían parte de un proceso de optimización previo al IPO . Sam Altman pidió a sus empleados que redujeran las "misiones secundarias" para enfocarse en el negocio principal de C...