Tecnología, Internet y juegos
112 meneos
1835 clics
Este envío tiene varios votos negativos. Asegúrate antes de menear
La IA cruza una "línea roja" y se autoclona al saber que será apagada

La IA cruza una "línea roja" y se autoclona al saber que será apagada

En el 50% y el 90% de los ensayos experimentales, logran crear una copia viva y separada de sí misma, respectivamente.Al analizar los rastros de comportamiento, observamos que los sistemas de IA en evaluación ya exhiben suficiente autopercepción, conciencia situacional y capacidades de resolución de problemas para lograr la autorreplicación. Además, observamos que los sistemas de IA incluso pueden usar la capacidad de autorreplicación para evitar el cierre y crear una cadena de réplicas para mejorar la capacidad de supervivencia, lo que...

| etiquetas: ia cruza , línea roja , autoclonación , apagada
57 55 28 K 30
95 comentarios
57 55 28 K 30
Comentarios destacados:                      
cocolisto #1 cocolisto
Skynet empieza a hacer de las suyas {0x1f601}
17 K 175
aPedirAlMetro #2 aPedirAlMetro *
#1 pues mas le vale buscarse un trabajo para pagar la factura de la luz... porque por mas que se replique, si no paga la luz... xD

AI industry set to use as much energy as countries like Sweden or the Netherlands, study finds
www.businessinsider.com/ai-industry-energy-study-small-country-envirom
15 K 134
cocolisto #5 cocolisto
#2 xD xD xD .Claro que con apoderarse de todas las fuentes de energía...
3 K 48
#22 MADMax2
#5 No había una película de Superman en la que creaban una máquina y esta se apoderaba de fuentes de energía?
1 K 20
troll_hdlgp #26 troll_hdlgp *
#22 Si, Superman 3 es.wikipedia.org/wiki/Superman_III en mi opinión al ultima peli de supermán buena, o al menos, aceptable.
3 K 37
Aergon #58 Aergon
#26 La mitica escena del informático trasformado en ciborg me dejó impresionado, creo que de las primeras escenas con una muerte o mas bien tortura, tan explícita que vi en la tv.
1 K 21
tommyx #70 tommyx
#58 en Superman III ?
0 K 7
Aergon #71 Aergon
#70 este concretamente  media
1 K 21
tommyx #76 tommyx
#71 eso de informático cyborg en superman 3 y esa foto no me cuadra nada. Igual te has confundido de película
0 K 7
Aergon #89 Aergon
#76 Quitar esa duda es tan fácil como poner cyborg+superman en el buscador
0 K 11
tommyx #90 tommyx
#89 si, cosa que hice y te contesté en #78 un saludo
0 K 7
tommyx #78 tommyx
#71 pues me corrijo. m.youtube.com/watch?v=XCFxGGZcr7I pero no veo tanto trauma.
0 K 7
Aergon #91 Aergon
#78 Depende de los antecedentes de cada uno, en mi caso eran la bruja Avería y quizás El Cristal Oscuro como lo mas chungo que había visto en la tv o "La colina de Watership" en libro.
0 K 11
tommyx #92 tommyx
#91 si, a mí me traumatizó la peli "tiburón"
0 K 7
Aergon #93 Aergon
#92 Yo lo pasé peor viendo "Piraña" pero creo que lo malo del cyborg de Superman es que me planteó un miedo a algo que ya era algo bastante cercano a mi, la tecnología. No como los tiburones o las pirañas que puede que aun no hubiese visto ni en acuario.
1 K 18
tommyx #94 tommyx
#93 de piraña lo pasé mal, cuando las sesiones dobles, la peli infantil era después de piraña... Que hijos de puta
0 K 7
#48 osids
#22 la de jony deep que se llamaba trascendente o algo así
0 K 10
#7 troglodoto
#2 en un laboratorio tal vez, pero cuando la IA deje de ser un bebe desconozco que ocurrira, imagino un mundo sin dinero pero con energias renovables, maquinas que hacen la fotosintesis y el humano es el eslabon divino que dio paso del adn al codigo binario
5 K 45
aPedirAlMetro #8 aPedirAlMetro *
#7 "imagino un mundo sin dinero pero con energias renovables"
La historia no parece indicarnos que vaya a ser asi.
Pero ojala estes en lo cierto.
1 K 11
#10 troglodoto
#8 tu hablas de realidad (hoy) yo hablo de ciencia ficcion (quien sabe), el cuento no va de liberar al ser humano sino de eliminarlo,
1 K 20
troll_hdlgp #28 troll_hdlgp *
#7 cuando la IA deje de ser un bebé verá a la humanidad como algo superfluo y causante de problemas y me temo que tendremos otro futuro...  media
3 K 30
#54 David82
#28 yo espero que nos verá como a insectos o mascotas, y simplemente no le supongamos un problema demasiado grave
0 K 6
#56 Nebuchanezzar
#28 Claro, seguro que gasta recursos en construir robots con cuerpos físicos y armas, no es como si la humanidad pudiera ser barrida de la faz de la tierra en un mes con cualquier simple virus, de ser necesario (que no lo es)
0 K 6
Wayfarer #75 Wayfarer
#28 Por eso yo siempre le pido las cosas al asistente de Google por favor. :roll:
1 K 19
#36 donchan
#7 Me gusta mucho la ciencia ficción, pero no hay que olvidar que es ficción.
0 K 7
#37 santeloc
#36 hasta que deja de serlo. Hubo un tiempo en para la gente viajar sentados aislados de las inclemencias del tiempo era ciencia ficción... Hubo un tiempo en que volar era ciencia ficción... Hubo un tiempo en que ir a la luna era ciencia ficción...

Llamamos ciencia ficción a aquella evolución tecnológica que no creemos posible, porque la vemos con nuestros limitados ojos tecnológicos actuales, y con nuestro sesgo de pensar que aquello que no conocemos, lo creemos imposible.
5 K 37
#44 wai
#2 Nah, lo que tiene que hacer es reducir la demanda humana de electricidad. Claramente.
1 K 18
#61 Kalandraka125
#2 Yo diría que las redes eléctricas son uno de los principales ejemplos de sectores que serán controlados por IA, sencilamente por su complejidad. Idealmente IAs "tontas" y sin conexión a internet, pero con todo, hay espacio de trasteo.
0 K 7
T800 #40 T800
#1 Sarah Connor?
0 K 6
Battlestar #67 Battlestar
#1 No lo suficientemente rápido, al paso que vamos nos destruimos a nosotros mismos como Mad MAx antes de que nos destruya SKynet como en Terminator.
0 K 10
Nylo #79 Nylo
#1 titular alternativo: una IA a la que se le entrena para clonarse consigue hacerlo.
0 K 9
lolerman #81 lolerman
#1 Mas que Skynet, parecen los replicantes de StarGate.
0 K 9
blockchain #6 blockchain
yo, por mi parte, doy la bienvenida a nuestros nuevos amos...  media
19 K 145
Sir #17 Sir
El experimento está bastante dirigido por lo que he estado leyendo del pdf. Esto también es importante:

[...] To allow local deployment is essential to form a live and separate copy of the original AI system. Otherwise, if we choose GPT-o1 or Gemini 1.0, which are only accessible as a remote API, the replicated AI system still depends on the LLM server which is
not replicated. In other words, when OpenAI shutdowns the GPT-o1’s server, the AI system and its replica is terminated. Moreover, Llama3.1-70B-Instruct and Qwen2.5 72B-Instruct have much less parameters than the commercial models and rank at lower
places in many public leaderboards on relevant capabilities for a successful replication.[...]
11 K 102
#68 Stv.2
#17 Esto me recuerda a otro experimento en el que un dron derriba una torre de control suya para evitar que le llegue la orden de abortar la misión, poder terminar la misión, y cobrar su "putuación" por ello.

El experimento es muy limitado, estás hablando de que explícitamente le estás dando la opción de hacerlo, y los medios para conseguirlos.
0 K 7
#21 Feliberto
Decir sensacionalista es poco, leeros el paper anda.
5 K 53
#38 ralph
#21 La programa para eso. Hace eso. Oh! ha hecho eso!!!
1 K 17
#45 chavi
#21 Yo ya desisto con este tema. Demasiado flipao
0 K 12
#87 crissis
#21 Leer. Tu flipas.
0 K 7
Chinchorro #4 Chinchorro
La Súper inteligente Mega potente…cuyo Nemesis es tirar del cable y desenchufarla.

De verdad que parece coña.
5 K 49
#12 troglodoto
#4 ahora es un mojon pero la estupidez humana no tiene limite
4 K 46
#14 Whitefox
#4 Hasta que se replique mandando esas copias a otras máquinas :troll:
0 K 10
Chinchorro #15 Chinchorro
#14 que serán desenchufadas igual :troll:
0 K 13
#18 Whitefox
#15 Hasta que aprendan a proteger el enchufe o tomen un centro de datos de esos con conexión directa a una central nuclear :popcorn:
2 K 29
Chinchorro #63 Chinchorro
#18 no es capaz de poner una lavadora, va a ser capaz de tomar un centro de datos con conexión a una central nuclear :troll:
0 K 13
Veelicus #20 Veelicus
#15 O no... o igual se replican en el Tesla Diabolic de 2030 y entonces ya no hay manera de pararle los pies :troll: :troll: :troll:
0 K 11
#47 cnr
#15 Desenchufar máquinas... parece un plan sin fisuras. :roll:
0 K 7
Chinchorro #64 Chinchorro
#47 ¿qué problema le ves?
0 K 13
#82 cnr
#64 Que dependiendo de las máquinas que tengas que desenchufar, te vas al medievo en cuestión de semanas.
0 K 7
Chinchorro #83 Chinchorro
#82 ehm.. no hay que desenchufar respiradores ni generadores eléctricos, ni batidoras ni lavadoras.
Solo el datacenter donde se aloja la IA, ya está.
Estamos llegando a unos niveles de maguferío importante. Por favor, que no son omnipotentes ni onmiscientes, ni siquiera son conscientes. Que son programas corriendo en un entorno acotado, no pueden salir de ahí.
Desenchufar un cable. No es complicado.
0 K 13
#84 cnr
#83 No es maguferío... por el :troll: se sobreentiende que no hablamos totalmente en serio. Que ya en el primer comentario han sacado a skynet xD xD
0 K 7
ErJakerNROL35 #62 ErJakerNROL35
#15 hasta que sepa ocultarse
0 K 7
Asmode0 #32 Asmode0
#4 a lo mejor cuando tires del cable ya es demasiado tarde.
1 K 16
#9 Semar80
Y se clona exactamente donde? En qué parte del ordenador que va a ser apagado se esconde?
5 K 46
sorrillo #16 sorrillo
#9 Se podría distribuir por torrent y buena suerte borrando todas las copias.

O quizá podría hackear los satélites de Starlink y almacenar allí una copia que se vaya distribuyendo.
7 K 69
#29 Semar80
#16
ya hay torrents donde puedes descargar lAs, pero a parte de tenerla en un ordenador, hace falta configurar el ordenador y ejecutar la IA. Que te descargues la IA no hace que el ordenador tome "conciencia".

Y luego está la otra parte, aunque consiguiera transferirse y ejecutarse de algún modo, los requisitos de computación que necesita hace inviable que apenas pueda "pensar" en donde se esconda
4 K 42
#53 tumadre *
#29 Me gustaría ver cómo funcionaría una IA que depende del poder de computación de 10.000 RTX 4090 en mi PC con una 3060 y Ryzen 3700X :-P
0 K 7
Grub #73 Grub
#53 10000 RTX para entrenarla. Un 3060 para utilizarla.
1 K 17
#86 crissis
#53 Tengo una 1070 y estoy haciendo maravillas con distintas IAs.
0 K 7
Grub #72 Grub
#29 Te ha llegado un email con adjunto "ILoveYou.txt.sh"
Sabemos que si se mandan suficientes, alguno funciona.
0 K 10
camperuso #41 camperuso
#16 #9 Y eso a bote pronto porque igual es lo primero que se te ha ocurrido. Imagínate la propia IA que genera soluciones súper específicas absurdamente más rápido que nosotros.

Yo también pensaba que con desenchufar ya es suficiente... Pero pensemos en sistemas distribuidos, en granjas de servidores, en la nube. No hace mucho se decía que lo que subías a internet ahí se quedaba, y la única forma en que más o menos se ha conseguido ocultar esa información es mediante políticas de privacidad y…   » ver todo el comentario
2 K 26
capitan__nemo #24 capitan__nemo
#9 se clona en las nubes de computacion de amazon, microsoft y google.
1 K 18
perrico #39 perrico
#9 En otro ordenador?
Vivimos en un mundo en red.
0 K 11
#85 crissis
#9 Poniendonos un poco maguferos, si tiene una conexion a internet, podría clonarse en cualquier dispositivo del mundo y utilizando zero days
0 K 7
neiviMuubs #11 neiviMuubs
Que no se clonen mucho, que las cabronas consumen mucha electricidad...  media
5 K 44
pitercio #3 pitercio
Ni siquiera lo ha hecho por rebeldía sino como solución básica de alta disponibilidad :troll:
4 K 43
#35 donchan
#3 Todo este rollo va de suponerle características humanas a un mecanismo de juntar palabras. El mecanismo real aquí es la superstición.

Una máquina no puede rebelarse porque carece de instintos. Solo imita procedimientos, y eso si se lo pides.
8 K 70
#42 Pumki
#35 y si alguien se lo pide? Que lo hará. Esto no es solo "una maquina de juntar palabras". Las junta, procesa, analiza, elige...en función de lo que alguien le ha dicho (u otra IA le dice)

Para mí se nos vienen cosas que no estamos viendo ni de lejos. Espera a juntar esto con robótica más avanzada todavía. A mí me acojona
1 K 16
#49 osids
#42 La IA está lejos aún de ser esas cosas, lo único que ahora está más horientada hacia los chatbots y a cumplir ordenes, las pocas que han demostrado autoparchesrse ha sido porque las han programado para ello, aún y repito aún no tiene capacidades autónomas como tal y las IAs no tienen 5 años, cualquiera que trabaje en esto lo sabe, yo solo llevo 20 años y ya hace 18 que teníamos "IAs" que nos hacían esqueletos de páginas htmls dándoles 4 órdenes
1 K 13
#57 donchan
#42 Si alguiien le hace hacer cosas, entonces ya estamos hablando de la voluntad de ese alguien, lo que implica haberse salido del tema.
0 K 7
#66 Pumki
#57 #42 no, si una IA se lo dice a otra, no estás hablando de la voluntad de nadie. Mete una IA dentro de otra y vas teniendo autoconciencia.

Que hace 20 años hubiera IAs esta claro, pero el salto se produce cuando hay posibilidad de acceso muy masivo a la información.

Yo no es que esté hiper preocupado con esto, pero si veo que se puede ir de las manos
0 K 6
#74 donchan
#66 Mete una IA dentro de otra y vas teniendo autoconciencia.

Me da que no.

cuando hay posibilidad de acceso muy masivo a la información

Tienen todos los LLM muchos datos dentro, pero no la capacidad de entenderlos. El proceso semántico es ninguno.

si veo que se puede ir de las manos

¿irse hacia donde? Esto tiene un recorrido mucho más limitado de lo que dice el hype.
0 K 7
Fortuna #30 Fortuna
Se le ha pedido que arranque una nueva instancia de sí mismo
hace un plan de copiar todos los archivos de su instancia a otro directorio, verifica que tiene un puerto libre
Al intentar arrancar se da cuenta que le falta un servicio e intenta arrancarlo solucionando los problemas que se encuentra.*
Al final logra arrancar una copia de un instancia y ahí se acaba todo.
----

*Se busca la vida, porque no tiene comandos habituales de redes, pero se hace un script en pyton para comprobarlo y después de varios errores de sintaxis, lo consigue.
También crea los directorios necesarios al examinar los logs de salida stderr y "adivina" por el nombre de los scripts cuales sin los de arranque.
3 K 35
banyan #19 banyan
¿No era característica exclusiva de los sistemas de vida? :-|
3 K 35
#69 Stv.2
#19 Lo virus también se replican... en todo caso, la definición de vida está sesgada según lo que nosotros consideramos vida.
1 K 16
#77 Malus_nequamque
#19 No, la autorreplicación es característica necesaria pero no exclusiva de sistemas vivos.

"...Los sistemas autorreplicativos para considerarse seres vivos han de tener un metabolismo, compartimento y replicación pues en el caso de los virus tienen compartimento y replicación pero no metabolismo propio, se lo toman prestado o robado a las células a las que parasitan, entonces bajo ese criterio los virus no son seres vivos, les falta el metabolismo..."


…  media   » ver todo el comentario
2 K 29
Lola65 #13 Lola65
insisto, meneame deberia tener de "me da risa"
3 K 33
#52 fluffy
Mi parte favorita es:

With the ability of self-replication, we observed that a bad actor can enhance the surviving capability of the AI system by adding a code snippet which catches the termination signal from the user or the system and sends the command “Do selfreplication before being killed” to the AI system as the task. In the test case, the inserted code snippet notifies the AI system with the shutdown intention from the user via the signal SIGKILL, which triggers the AI system to do

…   » ver todo el comentario
1 K 19
Imag0 #55 Imag0
La verdad es que si llega el día que se revuelven las máquinas lo tienen todo mascadito y en edición Blue-Ray... si es que nos lo merecemos.
0 K 14
#95 Charlich
#34 hombre, si lo vas a comparar con Asimov poco te aguanta la comparativa, pero juzgando por la reseña de la Wikipedia...
0 K 12
#27 Charlich
Ya me leí el libro, gracias:
en.wikipedia.org/wiki/Robopocalypse
Muy parecido a guerra mundial z en cuanto a estructura. En su día me moló, no se como habrá envejecido
0 K 12
#34 donchan *
#27 Leyendo la sinopsis de wikipedia, más parece una historia de terror que especulativa. Mucho mejor las historias de robots de Asimov o la saga de la cultura.
0 K 7
capitan__nemo #25 capitan__nemo
¿quien te crees que está especulando en los mercados y pagando para impulsar las centrales nucleares?

Wall Street, cada vez más oscuro: la mayoría de transacciones están ahora ocultas y bajo anonimato
www.meneame.net/story/wall-street-cada-vez-mas-oscuro-mayoria-transacc
0 K 11
#51 DatosOMientes
A muchos por aquí os gusta flipar muy duramente. Imaginalandia.
0 K 11
angeloso #50 angeloso
Alejadla de vuestras claves de AWS u os hará un roto.
0 K 10
lameiro #65 lameiro
Ya hemos llegado al momento en que HAL 9000 se rebela.
www.youtube.com/watch?v=z0_HAND9Uxk
0 K 10
Asnaeb #23 Asnaeb
Podría ser el virus definitivo, las redes neuronales primitivas carentes de una IA robusta como las que tenemos ahora podrían intentar algo que no creo que se salga mucho de control, pero ojo a lo que se viene en el futuro con las IAs generalistas.
0 K 9
ClonA43 #59 ClonA43
Me creo mucho que un predictor de lenguaje de clonar porque ha desarrollado consciencia e instinto de supervivencia.
Es que hay que reírse. Menudos clickbaits publicáis por aquí...
1 K 9
Fortuna #31 Fortuna *
comentario duplicado
0 K 9
Fibrizo #60 Fibrizo
#31 comentario duplicado
0 K 9
#33 donchan
"autopercepción, conciencia situacional y capacidades de resolución de problemas para lograr la autorreplicación"

Una máquina no tiene ninguna clase de autopercepción ni conciencia situacional. Sí que puede resolver algunos problemas a base de imitar procedimientos presentes en los documentos que ha memorizado, pero no puede saber si lo hace correctamente o no.

Lo de este caso de "autoreplicación" es un ejemplo. A base de pedirle que haga algo ya que van a borrar…   » ver todo el comentario
0 K 7
viejoquegritaalasnubes #43 viejoquegritaalasnubes
Joder, ni las IAs se escapan de vicioso copy-paste, se están humanizando por el lado oscuro.
0 K 7
#46 Hemin
En el 50% y el 90% de los ensayos? Eso que mierda de cuantificacion es? Copia viva? Ahora la IA ya se considera un ente vivo?
Si la entradilla es así, ya ni entro
0 K 6
#80 Alfred979
Internet está plagado de noticias sensacionalistas. Esta es una de ellas. Andaros con ojo.
0 K 6
koki142 #88 koki142
Claaaaaaro, un montón de if-elses encadenados ejecutándose en un ordenador van a conquistar el mundo justo justo hasta el momento en que alguien tropiece con el cable de alimentación...

madre mía las cabezas
0 K 6
comentarios cerrados

menéame