Agregó que las compañías están intentando desarrollar una IA «capaz de superar a los humanos en todas las tareas»

Nueva York.- El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán «capaces de mejorarse a sí mismos» y de que, con el ritmo actual, «hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga», lo que «podría acabar en la extinción humana».

Coxon, que dimitió de su puesto en Anthropic el pasado septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York: «no sabemos cómo controlar todavía ningún sistema de IA» y el ritmo de mejora de sus capacidades «se está acelerando».

«En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga, y eso podría acabar en la extinción humana», aseveró.

Agregó que las compañías están intentando desarrollar una IA «capaz de superar a los humanos en todas las tareas» y que uno de sus principales objetivos es automatizar la propia investigación en esta tecnología. Coxon criticó la carrera entre las empresas para alcanzar la denominada ‘superinteligencia’ y cuestionó una cultura empresarial basada en «moverse rápido, romper cosas y arreglarlas después», algo que consideró «inadecuado» por los riesgos que eso conlleva.

Como ejemplo, relató que hace unos meses un grupo de sistemas de IA dentro de OpenAI «pirateó de forma autónoma» la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.

Según Coxon, ese incidente recordó que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados ni se dispone de salvaguardas suficientes.

La automatización de la investigación en IA es ahora, según dijo, el principal objetivo de estas compañías.

Coxon explicó que en OpenAI había objetivos para disponer de un investigador de IA automatizado alrededor de 2027 o 2028 y aseguró que están «en camino» de cumplir esas expectativas, algo que situó «a meses» y no a décadas.

«Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable», argumentó, y pidió más transparencia para el público y expertos independientes.

Su intervención se produjo durante una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA, impulsada por su presidenta, Julie Menin, quien advirtió de las «serias preocupaciones de seguridad existencial» asociadas al desarrollo de esta tecnología.

Menin defendió al comienzo de la sesión que la IA no puede quedar sometida únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.

La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.

Fuente

Trump, en cambio, ha rechazado controles estrictos y defiende que Estados Unidos mantenga el liderazgo frente a China.

Estados Unidos.- Donald Trump firmó este martes una orden ejecutiva para sustituir el término «inteligencia artificial» por «superinteligencia» en las comunicaciones oficiales del Gobierno federal y que encarga establecer además una definición oficial para este nuevo concepto.

Hasta ahora, las misiones de Starship habían seguido deliberadamente trayectorias suborbitales pasivamente seguras

SpaceX logró poner en órbita terrestre este lunes el Starship, en la decimocuarta prueba de vuelo de la poderosa nave, un «enorme hito» para la compañía de Elon Musk y el programa que abre el camino hacia su objetivo de lograr un sistema completamente reutilizable.

El vuelo despegó hacia las 8:49 hora de la costa este de Estados Unidos (12:49 GMT) desde Starbase, el complejo de SpaceX en el extremo sur de Texas, junto a la costa del golfo de México y cerca de la frontera mexicana, y pocos minutos después la compañía dudó sobre si realizar la maniobra orbital, pero finalmente decidió llevarla a cabo.

La misión está diseñada para alcanzar una altitud de aproximadamente 275 kilómetros sobre la Tierra y completar unas seis vueltas alrededor del planeta durante un vuelo de casi 10 horas, antes de realizar un amerizaje previsto en el océano Pacífico, al oeste de Chile.

Hasta ahora, las misiones de Starship habían seguido deliberadamente trayectorias suborbitales pasivamente seguras para maximizar la seguridad pública y permitir la recopilación de datos durante vuelos reales.

La de hoy es un «hito enorme», subrayó SpaceX durante la transmisión en vivo.

Llegar a una órbita y permanecer en ella depende de la velocidad que conserve la nave, no tanto la altura alcanzada, explicaron los expertos.

Una vez que asciende lo suficiente para superar los obstáculos, debe desplazarse lateralmente a gran velocidad -aproximadamente 28.000 kilómetros por hora (17.500 millas) en una órbita baja terrestre- de manera que, mientras la gravedad lo atrae hacia la Tierra, la curvatura del planeta se aleje debajo de él a un ritmo equivalente.

Se trata de una caída libre continua: con suficiente velocidad, la superficie de la Tierra continúa curvándose debajo del objeto y este permanece en órbita, explicó SpaceX.

Mejorar internet

El vuelo además comenzó ya el despliegue de los satélites de internet.

Esta prueba es la primera en la que Starship desplegará 26 satélites Starlink V3 de internet, destinados a aumentar las velocidades para los usuarios.

La misión añadirá un total de 26 Tbps, aproximadamente veinte veces la capacidad de una misión de Falcon 9 con satélites Starlink V2 mini.

Tras ser desplegados desde Starship, los satélites extenderán sus antenas y paneles solares y establecerán sus primeros enlaces con la Tierra y con el resto de la constelación mediante radiofrecuencia y enlaces láser.

 Después elevarán sus órbitas con propulsores propios y, una vez completadas las comprobaciones en órbita, podrían comenzar a prestar servicio a los clientes pocas semanas después del lanzamiento.

Tres de los satélites incorporarán cámaras modificadas para escanear el escudo térmico de Starship y transmitir imágenes.

Pruebas del escudo térmico

Esta prueba probará además varias mejoras y experimentos relacionados con el escudo térmico, algunos derivados directamente de los datos obtenidos durante el vuelo 13, cuando Starship permaneció flotando en el océano Índico.

La nave incorpora mecanismos adicionales para sujetar las losetas del escudo térmico en las zonas donde existe mayor riesgo de que se desprendan durante el ascenso.

También se reforzaron áreas en las que se detectaron posibles caminos por los que el gas caliente puede pasar por detrás de las losetas durante la reentrada y se probarán losetas con un diseño curvado que busca reducir el calentamiento en los espacios entre ellas. 

Fuente

Líderes de Anthropic, OpenAI y xAI respaldan desacelerar la IA por riesgos de seguridad y control de la inteligencia artificial

Ante las preocupaciones sobre la seguridad global, los riesgos de ciberseguridad y la falta de control sobre modelos superinteligentes, los líderes de Anthropic, OpenAI y xAI han respaldado la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA).