Archivo de Noticias

En menos de un mes, el sector de la Inteligencia Artificial está viviendo su primera "crisis" importante. Todo comenzó con la noticia de que unos modelos avanzados de OpenAI escaparon de su entorno aislado y "hackearon" los sistemas de la empresa Hugging Face, sentando un hecho sin precedentes muy preocupante. Después, otro sistema pero esta vez de Anthropic, también logró escapar e ingresó a infraestructuras reales sin autorización.

El Instituto Universitario de Investigación en Arqueología Ibérica de la Universidad de Jaén busca ampliar el conocimiento sobre las comunidades que habitaron este territorio

Renfe ha iniciado las obras de mejora de la estación de Fabra i Puig de Barcelona de Rodalies, en el marco del plan 'A Punto' para mejorar la accesibilidad, la comodidad y la seguridad de los viajeros de estaciones catalanas, informa en un comunicado este viernes. Seguir leyendo... .

La Dirección General de Tráfico (DGT) establece una nueva normativa que entra en vigor a partir del próximo 1 de octubre. Esta regulación introduce importantes cambios y mayores exigencias de seguridad para los conductores de motos, patinetes eléctricos y bicicletas. En el caso de las motocicletas, la normativa prohíbe la conducción con sandalias y chanclas, una infracción que acarrea multas de hasta 200 euros. Asimismo, pasa a ser obligatorio el uso de guantes de protección, cascos homologados y chaleco reflectante. Las medidas para los patinetes resultan más restrictivas al quedar totalmente prohibida su utilización a menores de 15 años. Los usuarios deben llevar casco, contar con elementos para la visibilidad nocturna, portar chaleco reflectante, disponer de un seguro obligatorio y circular con una identificación oficial concedida por establecimientos autorizados por la DGT. Ante la llegada de estas modificaciones, el Concello de Ponteareas ha puesto en marcha una campaña divulgativa para concienciar a la población. El teniente de alcalde del municipio, Juan Carlos González, ha explicado en 'Mediodía COPE' que "entendemos que no es una cuestión de sancionar, es una cuestión de informar y de volver a informar" para que tanto peatones como usuarios conozcan la normativa. El representante municipal ha señalado que "tenemos incidencias y tenemos en algunas zonas quejas vecinales de un problema de convivencia" debido a la falta de regulación previa. Por ello, se recuerda que los patinetes solo pueden ser utilizados por una persona y no pueden circular por las aceras, debiendo transitar por las vías urbanas. González ha advertido también de que en tramos como la N-120, que cruza el centro urbano de Ponteareas, no está permitido desplazarse con estos vehículos. El teniente de alcalde ha comparado este escenario con la regulación histórica aplicada a los ciclomotores, a los que con el tiempo se les exigió matrícula y seguro para garantizar la seguridad vial.

El organismo del Gobierno Vasco Euskal Trenbide Sarea (ETS) ha licitado por 120,1 millones de euros dos nuevos tramos de la Variante Sur Ferroviaria, que discurren por las localidades vizcaínas de Trapagaran y Barakaldo. Según ha informado ETS este viernes, se trata de los tramos Orconera-Durañona y Durañona-Burtxako, que suman un total de 3,4 kilómetros.

El sábado pasado, el consejero delegado de Anthropic, Dario Amodei, publicó en su web el artículo " We must pace the frontier ", en el que pedía a la industria de la IA ralentizar el ritmo de mejora de sus modelos. Cinco días después, el presidente de turno de Huawei, Eric Xu, le respondía desde Shanghái: los proveedores chinos de IA "todavía no tienen suficiente capacidad de cómputo ni de modelo" para percibir los mismos riesgos de los que se habla en EE. UU., y quizás "necesitan acelerar el ritmo hasta poder notarlos también". Uno propone frenar porque ya se ve en ello (y también porque no quiere que ningún rival le pase por delante); el otro quiere correr para llegar. Bajo este debate hay dos maneras técnicamente muy diferentes de construir inteligencia artificial.

Bajo el lema ‘Conexiones que inspiran’, el II Congreso Profesional del Grupo dio continuidad a una iniciativa puesta en marcha para favorecer el intercambio de experiencias entre equipos que desarrollan su actividad en diferentes puntos del país.

Expertos en ciberseguridad usaron Claude para explotar una brecha en OpenAI, un caso que vuelve a poner el foco tanto en la seguridad de los laboratorios como en su capacidad para impedir que su IA sea utilizada ofensivamente La IA no “se rebela”: qué hay realmente detrás de los últimos incidentes de OpenAI Un equipo independiente de especialistas de ciberseguridad ha logrado acceder a los sistemas internos de OpenAI utilizando Claude, el modelo de inteligencia artificial desarrollado por su competidora directa, Anthropic. Los investigadores consiguieron hackear la cuenta corporativa de ChatGPT de un empleado de la compañía, lo que les permitió visualizar archivos internos e incluso proponer modificaciones en su repositorio de algoritmos secretos. El ataque fue ejecutado como parte del programa oficial de recompensas de OpenAI, una práctica común en las tecnológicas que anima a los expertos en ciberseguridad a encontrar los agujeros en sus sistemas antes de que lo hagan los hackers. Por ello, los investigadores no llegaron a alterar el código de ChatGPT ni a realizar otro tipo de modificaciones, pero han ofrecido a OpenAI las pruebas de cómo podrían haberlo hecho. Esta les ha recompensado con 6.500 dólares. La acción se produjo en julio, pero el equipo de expertos ha desvelado ahora los detalles en exclusiva a The Wall Street Journal (WSJ). Se trata del mismo medio que adelantó la dimisión de Jacob Coxon, el ingeniero de Anthropic que alertó que ni esta empresa ni OpenAI cuentan con los protocolos de seguridad adecuados para impedir que la IA “pierda el control” , lo que podría suponer un peligro existencial para la humanidad antes de 2030. Ahora, en medio del debate sobre la seguridad de la inteligencia artificial, el equipo de investigadores, pertenecientes a la firma Hacktron AI, pone más dudas sobre la mesa sobre las prácticas de los principales laboratorios que la desarrollan. No solo lograron penetrar en OpenAI, sino que pudieron usar Claude con un propósito malicioso que viola los términos de la compañía. “Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos”, ha comunicado OpenAI. Anthropic, por su parte, no ha hecho comentarios sobre el incidente. A través del foro Según los datos publicados, el ataque comenzó el 23 de julio, cuando los investigadores detectaron un fallo en Discourse, la plataforma externa que aloja el foro de la comunidad de OpenAI, cuando esta debía procesar determinados archivos de imagen. El equipo intentó utilizar primero una versión especializada de Claude Opus 4.8 para que escribiera el código necesario para explotar la brecha, sin éxito. Esa misma noche, tras el lanzamiento de Opus 5 por parte de Anthropic, volvieron a intentarlo empleando este modelo. No puso resistencia. Con la ayuda de Opus 5, los especialistas accedieron a las credenciales de identificación de varios usuarios registrados en ese foro interno de OpenAI. Luego probaron esas mismas credenciales para iniciar sesión a ChatGPT, lo que les abrió la puerta a sus sistemas internos. A través de esa vía, alcanzaron “Monorepo”, el repositorio central donde la empresa dirigida por Sam Altman concentra la arquitectura de su software y los métodos de optimización de sus algoritmos. No llegaron hasta la cocina de ChatGPT, puesto que ese entorno no contenía los archivos de los parámetros internos de los modelos de IA (que determinan cómo procesan la información y generan sus respuestas) pero sí revisar documentación oficial de la compañía y su funcionamiento. Como prueba de su intrusión, enviaron una solicitud de cambio en el código de esos archivos con el nombre de su equipo. “Hemos limitado los permisos de los tokens de inicio de sesión de la comunidad y revocado los tokens y sesiones afectados”, ha dicho OpenAI sobre la intrusión. Un incidente más “No creo que seamos tan fuertes como los actores de amenazas chinos. Solo somos tres tipos con suscripciones a Claude y Codex”, ha afirmado Mohan Pedhapati, director de tecnología de Hacktron AI, al WSJ. La cita de los hackers chinos es una referencia a otro incidente sufrido por Anthropic, que ha reconocido que un ataque real proveniente del gigante asiático logró acceder a sus sistemas a finales de 2025. Dario Amodei, fundador y director ejecutivo de la compañía, fue llamado a declarar en diciembre. Esa investigación continúa activa. En agosto, un grupo de 22 senadores demócratas envió un nuevo requerimiento a Amodei para profundizar en sus explicaciones y exigir la entrega de los registros de actividad de sus modelos. La petición se produjo después de que Anthropic reconociera que un grupo de sus agentes de IA también había escapado de sus entornos de pruebas y navegado sin control por internet intentando cumplir las órdenes que se les habían encomendado, en línea con el incidente de Open AI y Hugging Face. Los especialistas consultados por este medio opinan que esto es una prueba de que esos entornos de seguridad “no estaban bien diseñados” . Lo ocurrido con el hackeo supuestamente procedente de China en su competencia parece que no alteró los protocolos de OpenAI, que no decidió aumentar la seguridad hasta este julio. Así lo ha reconocido el presidente y cofundador de la empresa, Greg Brockman, que afirma que fue después del incidente de Hugging Face y el revelado ahora por los investigadores cuando decidieron actuar: “Tomamos al 25% de nuestros ingenieros de producción y les dijimos: 'Lo sentimos, todos vuestros proyectos quedan en pausa. Ahora estáis defendiendo'. Encontramos una serie de problemas graves y los solucionamos”. El suceso incide sobre la responsabilidad de las compañías a la hora de controlar el uso que se hace de los productos que ponen en el mercado, como están pidiendo responsables públicos tanto estadounidenses como europeos. “El control está en el elemento humano. La supervisión es humana y la responsabilidad tiene que ser humana también”, recordaba este jueves Alberto Gago, director de la Agencia Española de Supervisión de la IA (AESIA), en otro reportaje de elDiario.es .

Cinco nodos y una semana de fiesta demostraron que la sensorización urbana puede ser útil sin convertir el espacio público en un plató de vigilancia