` Musk y científicos instan a pausar por 6 meses experimentos de IA potente - Monitoreamos
Monitoreamos
  • Inicio
  • Presidenciales
  • Venezuela
  • Mundo
  • Negocios
  • Entretenimiento
  • Salud
  • Tecnología
  • Deporte
Sin resultados
Ver todos los resultados
Monitoreamos
Sin resultados
Ver todos los resultados

Portada » Musk y científicos instan a pausar por 6 meses experimentos de IA potente

Musk y científicos instan a pausar por 6 meses experimentos de IA potente

Amaya ArnautporAmaya Arnaut
29 marzo 2023
en Tecnología
0
0
COMPARTIDO
FacebookTwitterWhatsapp

Un grupo de empresarios del sector tecnológico, expertos y políticos, entre ellos el controvertido empresario Elon Musk, solicitaron en una carta de tono apocalíptico que se suspendan durante seis meses los experimentos con inteligencia artificial (IA) muy potente porque consideran que «pueden plantear profundos riesgos para la sociedad y la humanidad».

«La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados», dice la carta abierta publicada por el organismo sin ánimo de lucro Future of Life Institute.

NoticiasRelacionadas

Workers near the top of the 526 ft. Vehicle Assembly Building at the Kennedy Space Center spruce up the NASA logo standing on scaffolds in Cape Canaveral, Fla., Wednesday, May 20, 2020. A SpaceX Falcon 9 rocket scheduled for May 27 will launch a Crew Dragon spacecraft on its first test flight with astronauts on-board to the International Space Station. (AP Photo/John Raoux)

NASA prepara una misión «rastreadora» para conocer cómo afecta el viento solar a la Tierra

17 julio 2025

Axiom 4 aterriza en el mar de California tras el regreso histórico de tres países al espacio

15 julio 2025

El director ejecutivo de Tesla, Elon Musk, el cofundador de Apple Steve Wozniak los investigadores estadounidenses Yoshua Bengio, Stuart Russel o los españoles Carles Sierra y Ramón López De Mantaras, son algunos de los firmantes de esta carta abierta en la que advierten de los supuestos peligros de la IA si no es acompañada de una gestión y una planificación adecuadas.

«La IA avanzada podría representar un cambio profundo en la historia de la vida en la tierra, y debería planificarse y gestionarse con el cuidado y los recursos correspondientes», asegura la misiva que sostiene, además, «que los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas».

Incluso aseguran que «nadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable» a estas mentes digitales.

Los firmantes enarbolan todos los miedos y peligros que en los últimos meses han resonado en foros, artículos y conversaciones cotidianas y lo hacen con un tono apocalíptico.

«¿Debemos desarrollar mentes no humanas que podrían acabar superándonos en número, ser más inteligentes que nosotros, que nos dejen obsoletos y que nos reemplacen? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?, se preguntan, antes de concluir: «Tales decisiones no deben delegarse en líderes tecnológicos no electos».

En este sentido, piden que los desarrolladores trabajen con los legisladores para acelerar un sistema legal sólido en torno a la IA.

Asimismo, vuelven a subrayar que los sistemas potentes de Inteligencia Artificial únicamente deben desarrollarse cuando haya seguridad de que sus efectos son positivos y sus riesgos son manejables.

«Hacemos un llamamiento a todos los laboratorios de IA para que pausen de inmediato durante al menos seis meses el entrenamiento de los sistemas de IA más potentes que GPT-4», dice el comunicado, que pide la intervención de los Gobiernos para imponer esta moratoria en caso de que las partes implicadas se nieguen a la suspensión temporal de las investigaciones.

GPT, siglas en inglés del término transformadores preentrenados generativos, es un tipo de modelo de aprendizaje artificial que se utiliza para generar lenguaje similar al humano. El GPT-4 es mucho más avanzado que los modelos similares anteriores.

El laboratorio OpenAI define el GPT-4 como su «último hito en el esfuerzo para ampliar el aprendizaje profundo». Este nuevo sistema acepta la recepción tanto de textos e imágenes, y produce texto.

Sin embargo, OpenAI asegura que GPT-4 sigue siendo menos capaz que las personas en muchas situaciones reales aunque «muestra un desempeño a nivel humano en varios puntos de referencia académicos y profesionales».

La carta abierta propone que durante estos seis meses de pausa, los laboratorios de IA y los expertos independientes «desarrollen e implementen un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados ​​por expertos externos independientes».

Finalmente, piden que la investigación y el desarrollo de la IA se reenfoque en hacer que «los sistemas potentes y de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales». EFE

FacebookTwitterWhatsapp

Noticias Relacionadas

Workers near the top of the 526 ft. Vehicle Assembly Building at the Kennedy Space Center spruce up the NASA logo standing on scaffolds in Cape Canaveral, Fla., Wednesday, May 20, 2020. A SpaceX Falcon 9 rocket scheduled for May 27 will launch a Crew Dragon spacecraft on its first test flight with astronauts on-board to the International Space Station. (AP Photo/John Raoux)
Tecnología

NASA prepara una misión «rastreadora» para conocer cómo afecta el viento solar a la Tierra

17 julio 2025
Tecnología

Axiom 4 aterriza en el mar de California tras el regreso histórico de tres países al espacio

15 julio 2025
Tecnología

Samsung presentó un nuevo teléfono plegable «más delgado y ligero» repleto de inteligencia artificial

9 julio 2025
Siguiente publicación

Alianza del Lápiz exigió ante la Embajada de México una investigación profunda sobre tragedia de Ciudad Juárez

Deportes

Foto @jorgeluiis55 vía IG

Tiburones de La Guaira adquirió de Bravos de Margarita al prospecto Jorge Luis Barrosa

28 julio 2025

Tadej Pogacar gana el Tour de Francia 2025 más rápido de la historia

27 julio 2025

Foto UEFA

Inglaterra revalida el título de la Eurocopa femenina 2025

27 julio 2025

Foto AP vía LVBP

Grandes Ligas: El béisbol acelera a fondo en Bristol con sabor venezolano

27 julio 2025

Mundo

Álvaro Uribe ve una «naciente dictadura» en Colombia y pide recuperar el país en 2026

28 julio 2025

Brasil inaugura la mayor termoeléctrica a gas natural de América Latina

28 julio 2025

Trump da «10 o 12 días» a Putin para llegar a un acuerdo de alto el fuego con Ucrania

28 julio 2025

ONG israelíes acusan por primera vez a Israel de cometer un genocidio en Gaza

28 julio 2025

  • Inicio
  • Presidenciales
  • Venezuela
  • Mundo
  • Negocios
  • Entretenimiento
  • Salud
  • Tecnología
  • Deporte

© 2020 Monitoreados - Todos los derechos reservados.

Sin resultados
Ver todos los resultados
  • Inicio
  • Presidenciales
  • Venezuela
  • Mundo
  • Negocios
  • Entretenimiento
  • Salud
  • Tecnología
  • Deporte

© 2020 Monitoreados - Todos los derechos reservados.