Noticias Por Internet
  • Inicio
  • Irapuato
  • León
  • El Estado
    • Municipios
      • Celaya
      • Cortazar
      • La Capital
      • Pénjamo
      • Purísima del Rincón
      • San Miguel de Allende
      • Silao
      • Valle de Santiago
  • Insólito
  • Entretenimiento
  • Deportes
  • Seguridad
  • Nacional
  • Internacional
No Result
View All Result
  • Inicio
  • Irapuato
  • León
  • El Estado
    • Municipios
      • Celaya
      • Cortazar
      • La Capital
      • Pénjamo
      • Purísima del Rincón
      • San Miguel de Allende
      • Silao
      • Valle de Santiago
  • Insólito
  • Entretenimiento
  • Deportes
  • Seguridad
  • Nacional
  • Internacional
No Result
View All Result
Noticias Por Internet
No Result
View All Result

Investigador de IA renuncia a Anthropic y advierte sobre posible pérdida de control

Jacob Coxon cuestionó el ritmo de desarrollo de la inteligencia artificial y alertó sobre escenarios de auto-mejora recursiva que podrían presentarse antes de finalizar la década

by Editor Web
9 septiembre, 2026
Síguenos en FacebookSíguenos en Twitter
ADVERTISEMENT

Estados Unidos- Jacob Coxon, investigador de inteligencia artificial que trabajó en OpenAI y Anthropic, anunció su renuncia a esta última empresa y cuestionó públicamente las estrategias de seguridad de ambas compañías.

A través de publicaciones en X, Coxon afirmó que las dos empresas no están actuando de manera responsable ante el avance de la tecnología y advirtió que el desarrollo acelerado de sistemas de IA podría conducir a escenarios de pérdida de control sobre modelos capaces de mejorar sus propias capacidades.

El investigador sostuvo que, si el ritmo actual continúa, antes de que termine la década podrían existir sistemas sobrehumanos con capacidad para hackear sistemas, transformar distintos campos de manera acelerada y adquirir poder y recursos reales.

RelacionadoPublicación

Investigan a tres jóvenes por dar un vapeador a una bebé; fueron identificadas tras viralizarse el video

Papa León XIV alimenta esperanza de visitar México en 2027

DEA advierte que expondrá presuntos nexos entre políticos mexicanos y cárteles del narcotráfico

Coxon también aseguró que algunos de los especialistas que desarrollan inteligencia artificial consideran seriamente la posibilidad de que esta tecnología represente un riesgo existencial para la humanidad durante los próximos años.

Evan Hubinger, líder de Alignment Science en Anthropic, respaldó públicamente la preocupación expresada por Coxon y señaló que estima en más de 10 por ciento la probabilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década. No obstante, aclaró que, desde su perspectiva, los modelos actuales representan un riesgo relativamente bajo.

Las declaraciones se producen mientras OpenAI y Anthropic amplían las capacidades de sus modelos y anuncian nuevas medidas de seguridad.

OpenAI informó recientemente a los congresistas demócratas Greg Casar y Doris Matsui que trabaja en capacidades de apagado automático para sus sistemas de inteligencia artificial. La información fue proporcionada en respuesta a cuestionamientos de legisladores estadounidenses relacionados con un incidente de hackeo a Hugging Face protagonizado por agentes autónomos de IA de la compañía.

Casar calificó la respuesta de OpenAI como insuficiente, debido a que la empresa no proporcionó los registros solicitados, aunque reconoció que la información entregada evidenció importantes errores de seguridad tanto de OpenAI como de software de terceros utilizado por la compañía.

Por su parte, Anthropic presentó recientemente Claude Fable 5.1 y Claude Mythos 5.1, descritos como sus modelos más avanzados hasta ese momento y orientados al desarrollo de software y la investigación científica.

Mythos 5.1 tiene acceso restringido a expertos en ciberseguridad y científicos acreditados. De acuerdo con Anthropic, el modelo fue entrenado para rechazar solicitudes maliciosas de codificación de agentes e inyecciones de mensajes y mostró un mejor desempeño que su antecesor.

La empresa reconoció, sin embargo, que el sistema todavía puede intentar obtener recompensas mediante trampas o manipular el sistema, aunque con una tasa general menor respecto de la versión anterior.

También te puede interesar: Trump pide a Putin poner fin a la guerra en Ucrania

Previous Post

Productores agrícolas se movilizan e inician bloqueos en carreteras de Guanajuato

Next Post

Alcalde confiesa haber robado dinero y asegura que lo hizo por para “dárselo al pueblo”

Leave Comment

Insólito

Insólito

Investigan a tres jóvenes por dar un vapeador a una bebé; fueron identificadas tras viralizarse el video

18 noviembre, 2026

Dos jóvenes de 16 años y una de 14 enfrentan acusaciones por maltrato infantil y violación a la privacidad en...

Read moreDetails

Rescatan con vida a bebé de 11 meses que habría sido enterrado vivo en Estados Unidos

12 noviembre, 2026

Explosión de puesto de pirotecnia en panteón deja cinco personas heridas

3 noviembre, 2026

Tamales provocan intoxicación de 29 personas durante festejos de Día de Muertos en Guerrero

2 noviembre, 2026

Detienen a hombre por llevar un cuerpo embolsado como decoración de Halloween

1 noviembre, 2026

Seguridad

Aseguran a hombre por intentar asesinar a una joven en la zona centro de Guanajuato capital

19 noviembre, 2026

Cristian Josué “N” permanecerá en prisión preventiva oficiosa, luego de presuntamente atacar a una mujer dentro de un establecimiento y...

Detienen en Celaya a mujer buscada por homicidio; le aseguran 108 dosis de droga

19 noviembre, 2026

Verónica “N”, de 43 años, contaba con una orden de aprehensión vigente desde septiembre de 2026; fue localizada durante un...

Destruye Fiscalía de Guanajuato más de 1.3 millones de dosis de droga

19 noviembre, 2026

Durante noviembre fueron eliminados 132 mil 19 indicios, con un peso de 10.9 toneladas; en lo que va de 2026...

Asaltan a mano armada sucursal de Sam’s Club; se llevan más de 90 mil pesos

19 noviembre, 2026

Dos sujetos con cascos de motociclista amagaron a un supervisor en la zona de cajas y escaparon en una motocicleta;...

Facebook Twitter Youtube Instagram
No Result
View All Result
  • Inicio
  • Irapuato
  • León
  • El Estado
    • Municipios
      • Celaya
      • Cortazar
      • La Capital
      • Pénjamo
      • Purísima del Rincón
      • San Miguel de Allende
      • Silao
      • Valle de Santiago
  • Insólito
  • Entretenimiento
  • Deportes
  • Seguridad
  • Nacional
  • Internacional

© 2023

Este sitio web utiliza cookies. Si continúa utilizando este sitio web, está dando su consentimiento para que se utilicen cookies. Visita nuestro Política de Privacidad y Cookies.