Creador de ChatGPT reconoce que la IA podría “dañar al mundo”

Creador de ChatGPT reconoce que la IA podría “dañar al mundo”

Por Redacción | 17 Mayo, 2023

Este martes, el CEO de OpenAI, Sam Altman instó a los legisladores a regular la inteligencia artificial durante la audiencia en el senado, describiendo como un potencial “momento histórico”, pero requiere garantías.

"Creemos que la intervención reguladora de los gobiernos será fundamental para mitigar los riesgos de modelos cada vez más potentes", resaltó Altman en su intervención inicial ante una subcomisión judicial del Senado.

Cabe resaltar que, la comparecencia de Altman se da después de que el éxito viral de ChatGPT, herramienta de chatbot de una empresa, renovara una carrera en torno a la IA y despertara la preocupación de algunos legisladores por los riegos que plantea la tecnología.

Asimismo, el senador Richard Blumenthal abrió la audiencia con una grabación falsas de su propia voz, como ejemplo de los riegos de la tecnología, pues se incluía en la grabación comentarios escritos por ChatGPT y audio de la voz de Blumenthal, hecho a partir de sus intervenciones reales en el pleno, argumentaba que no se puede permitir que la IA se cree en un entorno no regulado.

Pues, aunque ChatGPT reflejaba fielmente las opiniones del legislador real, podría producir con la misma facilidad, "un respaldo a la rendición de Ucrania o al liderazgo de Vladimir Putin". Eso, dijo, "habría sido realmente aterrador".

Hay que resaltar que, una lista de empresas tecnológicas han desplegado nuevas herramientas de IA en los últimos meses, con el potencial de cambiar la forma en que trabajamos, compramos e interactuamos, pero estas también han suscitado críticas de algunos de los nombres más importantes de la tecnología por su potencial para perturbar millones de empleos o difundir información errónea.

 Altman dijo que la posibilidad de que la IA se utilice para manipular a los votantes y desinformar están entre "mis áreas de mayor preocupación", especialmente porque "vamos a enfrentarnos a unas elecciones el año que viene y estos modelos son cada vez mejores".

Este martes, dijo que una forma en que el Gobierno de Estados Unidos podría regular la industria es creando un régimen de licencias para las empresas que trabajan en los sistemas de IA más potentes. Esta "combinación de requisitos de licencias y pruebas", dijo Altman, podría aplicarse al "desarrollo y lanzamiento de modelos de IA por encima de un umbral de capacidades".

Te puede interesar: Guillermo Lasso decreta la disolución del Parlamento para evitar su posible destitución
 

Asimismo, testificarán este martes Christina Montgomery, vicepresidenta y directora de privacidad y confianza de IBM, y Gary Marcus, exprofesor de la Universidad de Nueva York y autodenominado crítico de la "exageración" de la IA.

Por otro lado, Montgomery advirtió contra la creación de una nueva era de "moverse rápido y romper cosas", el mantra de siempre de gigantes de Silicon Valley como Facebook. "La era de la IA no puede ser otra era de 'moverse rápido y romper cosas'", dijo Montgomery a los legisladores. Aun así, dijo, "tampoco tenemos que frenar la innovación".

"Habrá un impacto en el empleo", dijo Altman a Blumenthal. "Intentamos ser muy claros al respecto, y creo que será necesaria la colaboración entre la industria y el gobierno, pero sobre todo la acción del gobierno, para averiguar cómo queremos mitigarlo. Pero soy muy optimista sobre lo grandes que serán los empleos del futuro".

Sin embargo, Altman, quizá más que ninguna otra figura, se ha convertido en el rostro de una nueva generación de productos de IA capaces de generar imágenes y textos en respuesta a las indicaciones de los usuarios, ya que, sus declaraciones se producen días después de reunirse con más de 60 legisladores de la Cámara de Representantes durante una cena, donde hizo una demostración de varios usos de ChatGPT "para gran diversión", según una persona de la sala que describió a los legisladores como "fascinados" por el evento.

Aunado a lo anterior, la mayoría de los asistentes coincidieron que será necesaria una regulación de la inteligencia artificial.

Ro Khanna, representante demócrata por California y cuyo distrito incluye Silicon Valley, dijo que Altman subrayó durante la cena que la IA es una herramienta, no una "criatura", y que la IA "puede ayudar con tareas, no con empleos".

"La contribución más útil de Altman fue rebajar la exageración", dijo Khanna a CNN.

Un ejemplo de cómo la IA ha irrumpido en el Congreso, la Comisión de Seguridad Nacional y Asuntos Gubernamentales del Senado celebraba una audiencia separada y simultánea sobre el uso de la inteligencia artificial en el gobierno.

Te puede interesar. Estados Unidos: mujer se arranca los ojos con sus propias manos al consumir metanfetamina
 

A principios de este mes, Altman fue uno de los varios CEO de tecnología que se reunieron con la vicepresidenta Kamala Harris y, brevemente, con el presidente Joe Biden, como parte de los esfuerzos de la Casa Blanca por subrayar la importancia del desarrollo ético y responsable de la IA.

En tanto, en las entrevistas de este año, Altman se ha presentado como alguien consciente de los riesgos que plantea la IA, “un poco asustado”, por la tecnología, él y su empresa se comprometieron a avanzar de forma responsable.

Sin embargo, hay quienes prefieren que Altman y OpenAI actúen con cautela. Elon Musk, que ayudó a fundar OpenAI, se unió a docentes de líderes tecnológicos, profesores e investigadores para firmar una carta donde se pide a los laboratorios de IA que detengan el entrenamiento de los sistemas de IA más potentes durante al menos seis meses, "profundos riesgos para la sociedad y la humanidad"

Por último, Altman reconoció estar de acuerdo con partes de la carta, "Creo que moverse con cautela y un rigor cada vez mayor para las cuestiones de seguridad es realmente importante", dijo el mes pasado. "La carta no creo que fuera la forma óptima de abordarlo".

Con información de CNN Español

*ARD

 


Lo de Hoy México
9 meses
.
La niña sufrió una “emergencia médica” y fue trasladada a un hospital cercano, donde murió, según el comunicado

Lo de Hoy México
9 meses
.
Por primera vez en la historia de Ecuador, decretó la disolución del Parlamento alegando que el juicio, que podría provocar su destitución por haber tolerado un supuesto caso de corrupción

Lo de Hoy México
9 meses
.
Desde su niñez Kaylee presentó problemas para controlar sus emociones, pero todo se agravó cuando ella tenía tan sólo 17 años de edad

Lo de Hoy México
9 meses
.
Símbolo de Australia, el canguro representa un problema medioambiental importante para el gigantesco país debido a su ciclo de reproducción

Lo de Hoy México
9 meses
.
A pocas horas de que John Kennedy ofendiera a México con mensajes ‘racistas’, el gobernador de Florida, Ron DeSantis, ahora se lanzó contra AMLO al decir que tiene a los cárteles ‘fuera de control’

Lo de Hoy México
9 meses
.
"La frontera no está abierta; cruzar irregularmente es ilegal"; advirtió Alejandro Mayorkas, secretario de Seguridad Nacional

Lo de Hoy México
9 meses
.
Este 10 de mayo, terroristas palestinos de Gaza lanzaron más de 270 cohetes a varias ciudades de Israel; al menos cinco civiles heridos

Lo de Hoy México
9 meses
.
El gobierno de Estados Unidos promulgó una nueva norma para restringir el acceso al asilo en la frontera con México, sustituyendo al Título 42

Lo de Hoy México
9 meses
.
El expresidente Trump deberá pagar una compensación de 5 millones de dólares, resolvió el jurado

Lo de Hoy México
9 meses
.
Las restricciones han estado en vigor desde 2020 y han permitido a las autoridades federales expulsar rápidamente a los migrantes en la frontera.

Lo de Hoy México
9 meses
.
Los jueces ordenan liberar a narcotraficantes como Héctor "El Güero" Palma o integrantes de Guerreros Unidos, dijo Obrador
El Poder Judicial federal está tomado por la delincuencia de cuello blanco: AMLO

Lo de Hoy México
9 meses
.
Luis Cresencio Sandoval rechazó que el inmueble en Bosque Real, en Huixquilucan, Estado de México, le costara 30 mdp sino que lo adquirió en 9 mdp
Mis salidas al extranjero han sido de carácter oficial y no de vacaciones: Luis Cresencio Sandoval

Lo de Hoy México
9 meses
.
Muchas instituciones bancarias han desarrollado su propia banca móvil, lo que supone nuevos cambios en la manera de administrar nuestras finanzas
Conoce los cambios que sufrirán las tarjetas de crédito y débito para el 2024

Lo de Hoy México
9 meses
.
Se le dio aviso a la Fiscalía General de la República que había otras acusaciones contra el narcotraficante. AMLO
Se evitó la salida de “El Güero” Palma del penal del Altiplano

Lo de Hoy México
9 meses
.
Al intentar hacer una maniobra de parkour, disciplina física cuya finalidad es desplazarse de un punto a otro, lo único que logró fueron daños físicos a su persona y otros al inmueble
Joven daña edificio del Palacio de Gobierno en Jalisco al caer por intentar hacer parkour

Lo de Hoy México
9 meses
.
Luis Cresencio secretario de Defensa, señaló que algunos migrantes se encontraron caminando y otros en centros; 23 son hombres, 15 mujeres, 6 niños y 5 niñas
Rescatan a migrantes secuestrados en Matehuala

Lo de Hoy México
9 meses
.
La niña sufrió una “emergencia médica” y fue trasladada a un hospital cercano, donde murió, según el comunicado
Muere niña migrante bajo custodia de la Patrulla Fronteriza en Texas

Lo de Hoy México
9 meses
.
Una señora fue detenida con todo y una enorme bocina acusada de alterar el orden, luego de que sus vecinos se quejaron porque la mujer escuchaba sus ‘cumbiones’ a todo volumen
Con todo y su gran bocina arrestan a señora por poner sus ‘cumbiones’ a todo volumen en Escobedo, Nuevo León

Lo de Hoy México
9 meses
.
Tras la intensa actividad del volcán y los videos que circulan en redes de supuestos ovnis
¿OVNIS? Captan movimientos de extraños objetos luminosos entrar y salir del Popo

Lo de Hoy México
9 meses
.
La titular de la Conade se ha lanzado contra la Selección Mexicana de Natación Artística, equipo que ganó cuatro medallas en la Copa del Mundo en Egipto

"Por mí que vendan calzones o Avon". Ana Guevara llama mentirosas y ladronas a nadadoras