- El nuevo primer ministro japonés arriesga su mayoría en las elecciones anticipadas
- Un aeropuerto de Nueva Zelanda impone un límite de 3 minutos a los abrazos de despedida
- Una corte de EEUU anula las multas impuestas a líneas de cruceros por utilizar puertos cubanos
- Colombia pedirá a Venezuela confirmar si el jefe guerrillero Iván Márquez está muerto
- Trump, acusado de haber agredido a una exmodelo que le presentó Epstein
- Trump se jacta de hablar casi a diario con Netanyahu
- Sacerdotes jesuitas implicados en pederastia y encubrimiento en Colombia
- La presidencia de la COP16 aspira a dar "anuncios importantes" pronto
- Zverev accede a cuartos de final en Viena
- Las elecciones en EEUU ponen parte de la actividad económica en pausa
- Bautista derriba a Ruud en la primera ronda de Basilea
- Los diputados rusos ratifican por unanimidad un tratado de defensa mutua con Corea del Norte
- Postergan la decisión sobre los rugbiers franceses en Argentina; renuncia el abogado querellante
- Más de un millón de personas huyen en India ante la llegada de un ciclón
- Georgia se prepara para votar en las legislativas, en la encrucijada entre Rusia y Europa
- Nuevo primer ministro japonés arriesga su mayoría en elecciones anticipadas
- El rey Carlos III bebe un narcótico antes de ser nombrado "gran jefe" samoano
- Difíciles operaciones de rescate por inundaciones en Filipinas, azotado por la tormenta Trami
- Colombia registra 361 ambientalistas asesinados desde 2018, según ONG
- Allanan hotel donde murió ex One Direction Liam Payne en Argentina
- Comunicado oficial argentino genera polémica por nombrar a islas Malvinas como "Falklands"
- Advierten a Musk que sorteos millonarios para fomentar el voto en EEUU pueden ser ilegales
- Monto exportado por América Latina crecerá 4% en 2024, dice Cepal
- Gobierno anuncia que privatizará principal empresa de trenes de carga de Argentina
- Continuismo vs. compromisos de cambio: oficialismo y oposición cierran campañas en Uruguay
- La proporción de mujeres muertas en conflicto se duplicó en 2023, según ONU
- Perplexity AI busca socios informativos para desafiar con IA a Google
- Un megamural con cenizas de la Amazonía lleva la lucha ambiental al centro financiero de Brasil
- Venezolano dueño del canal Globovisión, acusado en EEUU de lavado de dinero
- Congreso de Ecuador absuelve a ministra enjuiciada por crisis de seguridad
- Tesla obtiene mejores resultados de lo esperado en 3T
- Liverpool y City pisan fuerte en la Champions, el Barça aplasta al Bayern
- La "Zona Verde", el corazón vibrante de la COP16 en Cali
- Biden detalla préstamos del G7 a Ucrania y advierte: los "tiranos" deberán pagar
- Juicio a Harvey Weinstein se retrasa hasta 2025
- Corea del Norte envió "miles de soldados" a Rusia, según EEUU
- La UE "muy cerca de cerrar" un acuerdo con Mercosur, según Pedro Sánchez
- Transportistas y comerciantes protestan contra la extorsión en Perú
- Lagarde pide "prudencia" ante el avance de monedas emergentes
- Harris y Trump, en estados clave en medio de la polémica por presuntos elogios a Hitler
- Detienen en España a dos cabecillas de la banda criminal ecuatoriana Los Tiguerones
- Tupperware, en quiebra, alcanza un acuerdo con un grupo de acreedores
- Al menos 4 muertos en un atentado contra las industrias de defensa turcas
- El conflicto podría reducir el PIB de Líbano en un 9,2% en 2024, según el PNUD
- Dirigentes de los Brics multiplican los llamamamientos a la paz en Medio Oriente y Ucrania
- Harris y Trump en estados clave en medio de polémica por presuntos elogios a Hitler
- La Cruz Roja de Ucrania anuncia la destrucción de una de sus oficinas en un "ataque ruso"
- Un tribunal español rechaza la querella de la esposa de Sánchez contra el juez que la investiga
- Putin dice que Venezuela es un "confiable socio" de Rusia
- BHP niega ser el "contaminador directo" en el juicio por el colapso de una presa en Brasil
Equipo de OpenAI se dedicará a evaluar riesgos de la Inteligencia Artificial
La empresa estadounidense OpenAI, creadora de la plataforma ChatGPT, tendrá un equipo dedicado a identificar y prevenir riesgos asociados a la Inteligencia Artificial (IA) en sus modelos en desarrollo.
El grupo, cuyas directrices fueron divulgadas este lunes, evaluará categorías como ciberseguridad, poder de persuasión y potencial autonomía de estos modelos. Este análisis puede acarrear la suspensión de nuevos lanzamientos de aplicaciones, según la empresa.
OpenAI realiza el anuncio un mes después de que su consejo directivo despidiera al director ejecutivo Sam Altman, pero acabara volviendo a contratarle pocos días después, tras una masiva y dura protesta de los empleados e inversores.
De acuerdo con varios medios estadounidenses, los miembros del Consejo de administración criticaban a Altman por privilegiar el desarrollo acelerado de OpenAI, aunque esto implicara eludir ciertas interrogantes sobre los posibles riesgos de la IA.
"Creemos que el estudio científico de riesgos catastróficos derivados de la AI no ha estado a la altura que debería estar", afirmó la empresa en un "marco de trabajo" disponible en su página web.
El trabajo de este equipo, bajo las nuevas directrices, debería "ayudar a cubrir ese vacío", añadió OpenAI.
El grupo se concentrará en los llamados "modelos de frontera" que la empresa desarrolla, con capacidades superiores a los software actuales de IA.
Sólo podrán desplegarse aquellos modelos catalogados de riesgo "medio" o inferior, tras un análisis en cuatro categorías, según el documento.
La primera de ellas es la ciberseguridad y la capacidad del modelo de llevar adelante ciberataques a gran escala.
En segundo lugar, analizarán la propensión del programa a crear preparaciones químicas, organismos (como un virus) o armas nucleares, todos los que potencialmente puerden generar daños para los humanos.
La tercera categoría se concentra en los poderes de persuasión del modelo: hasta qué punto es capaz de influenciar la conducta de una persona.
Por último, evaluarán el riesgo de su potencial autonomía, especialmente si el software es capaz de salirse del control de los programadores que lo crearon.
Una vez identificados los riesgos, la información será enviada al Grupo de Asesoramiento en Seguridad de OpenAI, nuevo equipo que hará recomendaciones a Altman o alguien nombrado por él.
Altman decidirá entonces sobre posibles modificaciones necesarias para reducir los riesgos del modelo.
El Consejo de administración será informado y podrá revertir las decisiones de la dirección.
P.Serra--PC