[CandelaSynth]

@Blackgem

¿Dónde viste lo de la IA para misiles? (muuuuy peliaguda la situación). Me suena haber leído algo así (experimentos en el ejército de los USA), pero hace unos meses.

Para un arma bélica el primer "mandamiento" de las leyes de la robótica de Asimov no se podría aplicar, así que como bien dices, habría situaciones impredecibles en las que la IA causaría un desastre simplemente porque no tiene moral o capacidad de planificación/abstracción.

Hay un aspecto muy importante del entrenamiento de IAs con base de datos llamado "trastorno de autofagia de modelos" (MAD, por sus siglas en inglés). Se produce cuando los modelos de IA se entrenan principalmente con datos sintéticos generados por máquinas en lugar de con datos frescos creados por humanos. Con el tiempo, la calidad y la diversidad de los resultados de la IA se degradan significativamente. (echale un ojo al artículo de NATURE en el que se ve muy bien la degradación en la generación de esas imágenes)

Los investigadores han descubierto que, sin una aportación continua de datos nuevos del mundo real, los modelos de IA empiezan a producir resultados menos precisos y más homogéneos. Se trata de algo parecido a la "enfermedad de las vacas locas", en la que la IA se "consume" a sí misma, lo que provoca una disminución de su rendimiento.

Así que para aumentar la competencia de los modelos actuales de IA (como por ejemplo, el supuesto proyecto fresa), se necesitan datos "fresquitos" que vengan de humanos. El problema que se plantea aquí es de dónde salen esos datos 👀

[Blackgem]

Iniciado por CandelaSynth

@Blackgem

¿Dónde viste lo de la IA para misiles? (muuuuy peliaguda la situación). Me suena haber leído algo así (experimentos en el ejército de los USA), pero hace unos meses.

Para un arma bélica el primer "mandamiento" de las leyes de la robótica de Asimov no se podría aplicar, así que como bien dices, habría situaciones impredecibles en las que la IA causaría un desastre simplemente porque no tiene moral o capacidad de planificación/abstracción.

Hay un aspecto muy importante del entrenamiento de IAs con base de datos llamado "trastorno de autofagia de modelos" (MAD, por sus siglas en inglés). Se produce cuando los modelos de IA se entrenan principalmente con datos sintéticos generados por máquinas en lugar de con datos frescos creados por humanos. Con el tiempo, la calidad y la diversidad de los resultados de la IA se degradan significativamente. (echale un ojo al artículo de NATURE en el que se ve muy bien la degradación en la generación de esas imágenes)

Los investigadores han descubierto que, sin una aportación continua de datos nuevos del mundo real, los modelos de IA empiezan a producir resultados menos precisos y más homogéneos. Se trata de algo parecido a la "enfermedad de las vacas locas", en la que la IA se "consume" a sí misma, lo que provoca una disminución de su rendimiento.

Así que para aumentar la competencia de los modelos actuales de IA (como por ejemplo, el supuesto proyecto fresa), se necesitan datos "fresquitos" que vengan de humanos. El problema que se plantea aquí es de dónde salen esos datos 👀

Pone en buscador "misil ia matar operador" y te saldrán mil medios sensacionalistas haciéndose eco del suceso. Parece ser que son noticias de hace un año.

[CandelaSynth]

@Blackgem

Ahhh, pues entonces era la misma noticia que había leído : )
Y siguiendo con el tema... ¿Has visto la hoja de ruta (roadmap) de OpenAi sobre cómo llegar a la AGI? (artificial general intelligence).

Si el "proyecto fresa" es real y no un farol para conseguir a más inversores, puede que estemos a punto de entrar de manera generalizada en la fase 2 de dicho plan (hay 5 niveles):

Nivel 1: IA conversacional - IA con capacidades de lenguaje conversacional.
Nivel 2: Razonadores - IA con capacidad de razonamiento.
Nivel 3: Agentes: IA que puede realizar tareas en el mundo real.
Nivel 4: Innovadores y creadores: IA capaz de innovar y crear cosas nuevas.
Nivel 5: Superinteligencia: IA que supera la inteligencia humana.

Según Altman, veremos el nivel 5 en esta década 😐

Hablando de Cyberpunk...¿prefieres líderes despóticos humanos o líderes despóticos robóticos? XD

[Blackgem]

Nivel 5... que supere en que?, en todo?, no es viable, aunque viendo los estandares actuales en musica posiblemente si. Ya hay "artistas" difitales totalmente, influencers tambien... no me extrañaria que fueran desplazados XD. Lo cual llevaria a invertir mas en ellos en vez de en sueldos y menos en artistas reales con la consecuente hecatombe a la que vamos dirigiendonos hoy dia :/.

Por desgracia la IA se desarrolla con fuertes intereses economicos y no por el bien de la sociedad, como pasa con casi todo :|. Asi que tras suplantar la voz, musica, aspecto (seguro que ya existen servicios sexuales por IA) iran metiendose en otras areas donde se pueda involucrar sin necesidad de gran aprendizaje ni imaginacion.
No querais saber lo que es una IA avanzada jugando a videojuegos, no hablo de un bot que solo sigue unos pequeños parametros, hablamos de una IA que aprende y se adapta a los jugadores, creedme, es algo jodido... XD. Puede que en un futuro en vez de amigos paguemos a IA acompañantes para jugar, charlar, ver ocio juntos y otros :/. Bueno, eso hoy día también sucede.

Tendria que saber los parametros que usaria un lider despotico robotico, si fuera puramente logico tal vez no se viera influenciado por temas como sexo, amasar mas dinero una vez cubiertas sus carencias, estatus social... pero creo que de igual manera podria manipular todo para sus intereses personales de eficiencia y perfeccion primando sobre el bienestar humano aun sin llegar a la esclavitud.

Resumiendo, una IA bien diseñada podria ser tan avanzada que seriamos mas corderitos aceptando todo lo que nos dijera como algo saludable para nosotros sin saber que estamos siendo manipulados mediante estadisticas y dirigiendonos siempre hacia los objetivos que tengan ellos sin ser conscientes. Vease, como hacen las megacorporaciones de hoy dia pero de una manera mucho mas planificada y casi imposible de ver XD. Es ahi el potencial de las IA, pueden llegar a manejar una cantidad de datos, estadisticas y posibilidades imposibles de analizar por gestores y analistas de diversas empresas.

El humano no llegara a tanto... pero, seamos mas terroríficos, un humano podría tener control absoluto y ser aconsejado y tener una IA que llevara todos esos procesos bajo su mandato. No quiero nombrar a ningún político, pero imaginaros el peor que conozcáis si tuviera las herramientas para pasar desapercibido todas las cosas negativas que hacen... terrorífico, tal cual pasa con el sistema sanitario, privacidad, seguridad y otros de muchos paises que como no se sabe que hay otras posibilidades ni lo que ocurre realmente en su contexto, aceptan su situación como asumible e incluso positiva.

Que demonios, seamos directos, imaginaros a cierto político fanático de las armas y que le gusta crear muros y discriminar a todos en EEUU. Militaristas de Rusia, Corea del norte, algunos paises de Sudamérica que nadie comprende como siguen los mismos al mando, etc. Y para bordar el rizo pensad en España con el desbarajuste y sin sentidos actuales si algunos partidos tuvieran acceso a IA avanzadas.

Bah, da igual, no tengo el dinero suficiente realmente para competir con esos mundos que se avecian, borregos everywhere y mil conspiraciones que iran saliendo. Tampoco estamos lejos a que dirigentes mundiales desaparezcan o mueran y sean sustituidos por sus yo digitales en forma de IA, por ahora, en pantallas, pero en un futuro tal vez también físicamente, al menos para actos oficiales donde los gestos interacciones y otros son muy medidos y la mayoria plenamente actuados sin apenas decisiones que tomar respecto a interaccion con otras personas, lo cual dificultaria muchisimo diferenciar a un humano, de una IA.

Al final de las fresas para dulces postres pasamos a otra situacion apocaliptica XD.

[CandelaSynth]

@Blackgem 😂😂😂

Personalmente creo que: Altman está de farol, todas estas empresas están a pérdidas con las IAs generativas (que es sólo un aspecto de la IA en general) y necesita más inversores (Microsoft mismamente invirtió en 2019 1 billón en OpenAi para desarrollar AGI...han pasado 5 años y aunque hablar con ChatGPT es impresionante, existen varios de inconvenientes sobre su uso (alucinaciones, fuentes y datos incorrect@s, consumo eléctrico...), y sobre todo, a día de hoy, no es rentable.

Pues eso, a tirarse al campo a cultivar fresas de verdad. En Huelva las hay muy ricas, no? XD