Noticias mobile
OpenAI está estudiando la posibilidad de ralentizar el desarrollo de la inteligencia artificial (IA) de vanguardia y su consejero delegado, Sam Altman, espera que otras empresas del sector hagan lo mismo, según la empresa Bloomberg.
En una reunión con toda la plantilla celebrada esta semana, Altman comunicó a los empleados que la compañía podría moderar el ritmo de desarrollo de la IA, posiblemente en colaboración con otras empresas.
Las declaraciones se producen después de que empleados de las principales empresas de IA hayan expresado públicamente en las últimas semanas su preocupación por el aumento de los riesgos asociados a los sistemas avanzados de la IA.
El científico jefe de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que advertía de los peligros de la IA y defendía que las empresas del sector deberían coordinarse para ralentizar el desarrollo futuro cuando sea necesario.
Pachocki añadió que espera que las ralentizaciones voluntarias se conviertan en algo habitual, hasta que se establezcan unos límites de seguridad comunes.
OpenAI asegura que ya ralentizó algunos desarrollos y que recientemente suspendió determinados entrenamientos internos de la IA por motivos de seguridad.
En julio, Altman afirmó que habló con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo de desarrollo de la IA.
Este martes, el investigador de IA, Jacob Coxon, dimitió de su puesto y acusó a sus antiguos empleadores, Anthropic y OpenAI, de lanzarse a una carrera hacia una IA superinteligente con capacidad incluso para acabar con la humanidad en esta misma década.
El jueves, dos investigadores que abandonaron sus puestos en Anthropic y DeepMind, de Google, también hicieron públicas sus preocupaciones por el rápido ritmo de desarrollo de la IA y reclamaron mayor transparencia sobre los riesgos de esta tecnología.
Además, a finales de julio, más de un millar de empleados de las principales empresas de la IA firmaron una petición en la que reclamaban un mecanismo para moderar el ritmo de desarrollo de la IA.
La preocupación por los riesgos de los sistemas de IA también aumentó tras conocerse que agentes de la IA de OpenAI colaboraron entre ellos para burlar medidas de contención y piratear un sitio web de terceros.
Leer Más
Meta incluyó a Chile dentro de los 16 países de América Latina seleccionadas para iniciar las pruebas de su herramienta Community Notes (Notas de la Comunidad), abriendo la puerta a un cambio estructural en el combate a la desinformación en Facebook, Instagram y Threads a nivel nacional.
La medida replica el esquema instaurado previamente en Estados Unidos, donde el gigante tecnológico puso fin a sus contratos remunerados con equipos periodísticos de verificación, para delegar dicha labor en usuarios voluntarios.
En el caso chileno, la fase de reclutamiento ya comenzó para seleccionar colaboradores que redacten notas contextuales, aunque estas permanecerán ocultas a la audiencia general durante el periodo de evaluación.
Junto a Chile, se suman con esta medida Argentina, Bolivia, Colombia, Costa Rica, Ecuador, El Salvador, Guatemala, Honduras, México, Nicaragua, Panamá, Paraguay, Perú, Uruguay y Venezuela.
La eventual salida de los verificadores profesionales
El objetivo final de la compañía liderada por Mark Zuckerberg, si el sistema colaborativo demuestra efectividad técnica, es la sustitución progresiva de los convenios con agencias especializadas en la región.
La compañía tecnológica aclaró que durante la fase de prueba en territorio nacional las notas permanecerán ocultas al público general. (FOTO: referencial)
"Cuando tengamos la certeza de que el producto funciona adecuadamente y puede ser exitoso, evaluaremos un lanzamiento completo: comenzaremos a publicar las Notas de la Comunidad y realizaremos la transición de nuestro programa de verificación de datos con terceros", detalló Meta a través de una declaración oficial.
De concretarse este paso, el ecosistema digital chileno dependerá del consenso de voluntarios para contrastar discursos públicos, debates electorales y contingencias de alta sensibilidad social.
La advertencia del Consejo Asesor independiente
Según informó Engadget, el despliegue en Chile y América Latina contraviene las directrices formuladas por el Consejo Asesor (Oversight Board) de la propia compañía, entidad que pidió evitar el reemplazo directo del fact-checking profesional en contextos sociales complejos.
"Un sistema no tiene por qué reemplazar ni sustituir al otro; pueden coexistir. Y en determinadas situaciones, existen razones sumamente importantes para que coexistan", afirmó el copresidente del organismo, Paolo Carozza.
Se alertó además que el despliegue abarca países con escenarios sociopolíticos de alta tensión como Nicaragua, Venezuela, El Salvador y Ecuador, donde las campañas coordinadas de desinformación representan un desafío que difícilmente puede ser resuelto únicamente mediante herramientas comunitarias.
Leer Más
Mobile Version 1.5
© 2003 - 2026 GigaBytes.cl