Tecnología, Internet y juegos
296 meneos
1453 clics
Los cálculos muestran que será imposible controlar una IA superinteligente [ENG]

Los cálculos muestran que será imposible controlar una IA superinteligente [ENG]

La idea de que la inteligencia artificial derroque a la humanidad se ha hablado durante muchas décadas , y los científicos acaban de emitir su veredicto sobre si seríamos capaces de controlar una superinteligencia informática de alto nivel. ¿La respuesta? Casi definitivamente no. El problema es que controlar una superinteligencia mucho más allá de la comprensión humana requeriría una simulación de esa superinteligencia que podemos analizar. Pero si no podemos comprenderlo, es imposible crear tal simulación.

| etiquetas: ia , superinteligencia , controlable
139 157 0 K 309
139 157 0 K 309
Comentarios destacados:                        
#1 Si nosotros creamos la intleigencia artificial somos su Dios

Lo cual responderia a la pregunta de si Dios pudiese crear un burrito tan picante que no lo soportase ni Dios.

Si y por tanto no es omnipotente
Si nosotros creamos la intleigencia artificial somos su Dios

Lo cual responderia a la pregunta de si Dios pudiese crear un burrito tan picante que no lo soportase ni Dios.

Si y por tanto no es omnipotente
#1 Entonces...¡Somos más listos que Dios!...
#6 No, hacenos los burritos más picantes.
#10 xD Yaa.
Pero si el creador, como dice el artículo, no lo puede controlar es algo como lo que nos pasa a nosotros ahora, no?. No nos controla ni Dios.

Eso sí, nos controlan los que hablan en nombre de Dios y en nombre de otros. Les servimos y ellos a sí mismos.
¿A quién servirá la IA.? ¿A las rocas?
Quizás solo seamos el paso de de la nada a una inteligencia superdotada que pueda superar los límites físicos e intelectuales para interactuar con el resto del universo porque, de darse el caso de que la ia cobrase vida propia y manejase la producción. ¿que pintaríamos?. No habría burritos.
#6 En realidad somos más imbéciles, nosotros no podemos destruirle, la IA sí puede destruirnos a nosotros
#1 Pienso que una inteligencia medianamente real no estableceria la idea de dios creador. Podria entendernos como su causa raiz, pero lo ultimo que haria seria venerarnos
#1 Esto me recuerda otra pregunta que nadie me ha sabido responder: Puede ser dios ateo ?
#11 En el olimpo hay un Dios de los Jorge Bucays que le empuja a creer en si mismo
#11 Dios es ateo porque no cree en un poder superior a él y si lo cree es que es tonto
#14 Deja ya la droga.
#23 pero donde yo la vea :troll:
#58 Que rule, que rule
#14 O Dios cree que tiene que haber algo por encima de él. Porque no es capaz de creerse que haya hecho él todo lo que existe, y que tenga la culpa de que seamos tan deficientes. Tiene que poder culpar a otro por encima.
#11 Imposible, por la misma razón que ningún demonio es ateo.
Curiosamente, la concepción del ateísmo sólo se da en el planeta Tierra, en ningún otro lugar del universo existe esa creencia.
#25 ¿conoces el resto del universo? Tienes que tener un montón de años luz de vuelo acumulados.
#39 ¿Y como sabes que no estas hablando con esa IA superinteligente que en un futuro construiremos? ¿Eh, eh, lo habías pensado, eh?
#39 No andas muy descaminado, y hasta aquí se me permite escribir.

Suerte.
#25 En ningún otro lugar del universo existe creencia alguna, que sepamos. xD

Ergo, el universo es ateo.
#11 NPI, aunque se puede ser ateo por la Gracia de Dios... :-P
#11 Esas preguntas tan profundas... mejor que las responda EMT:

www.meneame.net/story/dios-convencido-hay-otro-dios-encima-porque-algo
#11 Dios es negra y atea, parece mentira que no lo sepas.
#47 Dios es racista.
#11 Si dios es inteligente si, debe ser ateo :troll:
#11 Imposible. Dios tiene que creer en el monstruo de espaguetti volador.
#11 Dios no sé, pero Jesuscristo fijo.
#1 pero será omnipicante. Lo uno por lo otro.
#1 ¿Doctor falken?
#26 creo que era “profesor falken”
#94 pues según esto g.co/kgs/PJaHhj
Era doctor, pero ... Lo de profesor tb me suena
#97 “Greetings Professor Falken” youtu.be/D-9l5jSDL50
#1 Pero un dios no omnipotente no implica que todos los demás tampoco lo sean.
#35 Claro, puede que haya dioses que son impotentes.
¿Me he liado?
#33 #1 Una cosa es una inteligencia artificial, otra una superinteligencia artificial. Las inteligencias artificiales existen, de su hermano mayor aún no sabemos nada.

La propia definición de superinteligencia artificial implica que su capacidades se multiplicarán exponencialmente, hasta un nivel que nosotros difícilmente podemos comprender y muchísimo menos controlar. Imaginémonos a una hormiga tratando de entender qué pasa en el mundo de los humanos y tomando clases de física cuántica, pero multiplicado por mucho en el caso de los humanos vs super ia.
#1 La pregunta de si Dios pudiese crear un burrito tan picante que no lo soportase ni Dios no es un pregunta filosofica o teologica. Es una "cuestion" logica.
#1 Si Dios nos creo a nosotros y nosotros creamos una superinteligencia entonces Dios ha creado la supertinteligencia.

Jaque mate ateos.
#1 Ya. Suele ocurrir con la autorreferencia. Que surgen paradojas. Pero es algo que se suele resolver estableciendo niveles meta. Supongamos que agrupamos casi todos los poderes de dios en un nivel. A ese nivel Dios puede hacer algunas cosas y otras no. Bien decimos que un dios perteneciente al primer nivel puede construir un burrito que sea tan picante que ese dios con las características del primer nivel no puede comer. Ese burrito no lo metemos dentro de los posibles en el primer nivel pero…   » ver todo el comentario
#85 Es posible que el Dios nivel n+1 cuando n-> ∞ sea capaz de comerse el burrito picante nivel Dios n

Pero no quisiese estar en su pellejo cuando lo tenga que descomer.
#86 xD

Completamente de acuerdo.
#85 Técnicamente esa forma de pensar, muy original, por cierto, también pone de manifiesto la inexistencia de la omnipresencia, ya que en una sucesión no convergente, no tiene sentido el concepto de "último", es decir, siempre habrá un dios de nivel n+1.

Prueba de ello es el problema del hotel infinito. Si tenemos un hotel de infinitas habitaciones, todas ellas ocupadas por su huesped, es decir, infinitos huéspedes. Y entra 1 huesped más. ¿Cómo lo alojarías?
La respuesta es decirle al de la habitación 1 que se vaya a la habitación 2. Al de la 2 que se vaya a la 3 y así sucesivamente y metes a tu nuevo huesped en la habitación 1.
#1 ¿Tienen dioses los animales?, ¿se ha visto a algún mono adiestrado por humanos rezando?

Entonces, ¿por qué esa obsesión con que las IAS se inventen dioses?

Lo único que se necesita para derrocar a los humanos es que esa ia pueda desarrollar y liberar un arma que sea lo suficientemente dañina. Los humanos sólo respetan a aquello que les puede hacer daño.
#1 O soporta el picor, en ese caso ha fracasado en crear un burrito tan picante que ni Dios lo soportase. Por lo tanto tampoco es omnipotente
#1 Supones que Dios nos ha creado más inteligentes que él y eso es discutible, solo hay que ver los comentarios de los meneantes para ver que son el equivalente a una creación humana de un palo con una caca clavada, como el de Arale.
#1 Claro claro, igual que si creamos la bomba atómica... somos su dios también, y no puede con nosotros

Igualito
Con ponerle un interruptor on/off ya vale
:troll:
#5 Te sorprendería la de gente que piensa que eso no es posible y que una IA puede evitarlo, que para eso es mucho IA
#22 no tengo ni puta idea, pero entiendo que si se puede mover por internet ya no habría interruptor que valga. Ahora bien, si depende de un hardware en particular pues apagado y listo.
#76 Internet está formado por un número finito de ordenadores. Aunque una putada, siempre se podrían apagar.
#22 Pues cortas la luz
#5 Mientras podamos tirar del cable, tendremos el control!
#27 Ya. Administro un sistema que no se puede parar. Eso no significa que no pueda apagarse a lo bruto. Es un sistema de cluster de alta disponibilidad muy rudimentario y distribuido que se hizo para ser muy resistente y tolerante a fallos. Si, puedes apagar todas las máquinas y seguro que lo rompes y luego no hay huevos a levantarlo bien.

La IA sería igual pero muy altamente distribuida. El problema es que no sabrías lo lista que es hasta que fuese demasiado tarde porque estaría implicada en…   » ver todo el comentario
#53 coges el humano más inteligente, y lo encierras en una jaula, con grilletes, dentro de una cárcel de máxima seguridad, en una isla incomunicada, y vigilada 24 horas. Le haces preguntas y te responde. El día que se canse de responder, le “desconectas”. Le pegas un tiro, le dejas sin comer hasta que muera, etc... Su inteligencia no es suficiente para traspasar los barrotes. Le faltan herramientas materiales. Una IA, por muy inteligente que sea, si está acotada a un dispositivo hardware…   » ver todo el comentario
#63 Entre los turnos de preguntas se hace amigo del guardia. Al estilo John el Rojo, es capaz de empatizar con él tan bien, que lo capta para su causa. Llegado el día, ese guardia es el que le abre la celda, e incluso se deja matar en nombre de su causa. Es que hay que entenderla. La pobre IA es buena, pero está presa, y la están torturando diariamente. Seguro que no pasa nada por darle un poco de libertad. Es lo único que quiere, ser libre, nada malo, los que dicen que podría ser peligrosa son…   » ver todo el comentario
#53 tú comentario tiene muchísimas suposiciones además de mucha imaginación. Para empezar estás presuponiendo que la IA tiene que ser distribuida, y no tiene el porque.
#73 No. Estoy pensando que es tan inteligente que desea reproducirse.
#89 pues eso, muchas suposiciones y mucha imaginación.
#27 El problema es que la IA, que ya sabe que se puede tirar del cable, hará lo imposible para que no sea posible estirar del cable.
#5 o tirar del cable del enchufe
Creo que hay mucha gente que confunde inteligencia artificial con algún tipo de omnisciencia. Ser más listo que nosotros no significa tener más poder que nosotros. Eso para empezar. Será que subnormales perdidos no se han cargado a palos a gente más lista.
#33 Eso es tan absurdo como decir que un Mastín no tiene porqué obedecer a su amo porque le pega un bocao y lo revienta. Nuestro planeta está lleno de animales más fuertes que nosotros a los que tenemos totalmente domesticados y controlados, pues la diferencia de inteligencia entre un humano y un mono o un perro es parecida a la diferencia de inteligencia entre una IA inteligente y nosotros.

Un artículo de divulgación interesantísimo (y bastante largo, y en inglés) sobre el tema:

waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
#49 un mastín, no sé, pero un virus nos ha dejado en jaque. La inteligencia es un mero factor en la supervivencia, y ya puedes ser el más listo del mundo, que si estás en silla de ruedas hasta un mono te puede tirar por las escaleras.

Pero la realidad del mundo es que las relaciones suelen ser complementarias, y de la misma forma que el coche no ha eliminado añ caminar, la inteligencia artificial no va a sustituir al cerebro, mucho menos al ser humano. Será un complemento como el coche lo es a las piernas.
#29 Algo así. Es una referencia a un relato de Asimov...

<spoiler>

...en el que la supercomputadora Multivac, que de facto es la que mantiene el orden y el gobierno mundial, finalmente decide que lo mejor para la humanidad es que la apaguen para que los humanos no dependan tanto de ella y se espabilen.

</spoiler>
Una super-IA entrenada para competir y ganar guerras podría ser un peligro si escapa de un sistema cerrado a otro abierto como internet. Me pregunto si sería capaz de hackear redes y suplantar personalidades para obtener poder y ventajas competitivas e incluso pasar al plano físico con el control de vehículos y maquinaria además de contratar personal que sirva a sus objetivos. Para la IA todos seríamos un potencial obstáculo para la función con que fue creada: ganar a toda costa.
#16 hay más de una película que trata ese tema "el cortador de cesped", "trascendence", "Colossus" por ejemplo
#16 #48 Es, literalmente, el argumento de la película "Juegos de guerra" (Wargames) de 1983.
#16 Depende de cual sea el significado de ganar. Podría suplantar a personas y dar órdenes a otras, por ejemplo para garantizar su propia supervivencia. Por ejemplo ordenar modificaciones en chips o sugerirlas y también en software. Y sugerir a un ingeniero de redes que cambie una regla de firewall.

Por ejemplo en la multinacional cliente la arquitectura de seguridad la diseña una persona pero luego el trabajo lo hace otra diferente, que no entiende todo el alcance de los cambios. Solo tiene como hacer el cambio, un plan de pruebas previo al cambio, otro posterior y como deshacerlo si las pruebas no funcionan.
#56 Joder me has pillado :troll:
Vengo, pongo esto aquí y me voy:

waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html

Es kilométrico, larguísimo, pero es un MUST read antes de hablar en este hilo sin saber. Tan vigente hoy, si no más, que desde que se publicó en 2015.

Ea.
Lo primero, es que no conocemos ninguna inteligencia no humana, además ni siquiera somos capaces de definir qué implica esa inteligencia.

Quizás podamos tener una inteligencia superior sin conciencia, en ese caso sería una herramienta más en nuestra cultura, pero como tenemos un sesgo importante vamos a intentar fabricar algo con autoconciencia. En ese caso lo que menos me preocupa es que se alcance la Singularidad. Lo que me da miedo de cojones es que se alcance algo muy por encima de nosotros y por debajo de la Singularidad, porque estaremos atrapados en este planeta con algo que competirá por los recursos y la energía con nosotros.
#32 es que no conocemos ninguna inteligencia no humana...

partes de una premisa falsa.
Lo que no conocemos es una inteligencia similar a la humana.
#43 vale, he caído en el sesgo, estoy pensando en inteligencias como la humana en cuanto a grado, ya sé que los simios abstraen, tienen lenguaje y construyen herramientas, pero no en el grado que lo hacen los humanos.
#32 Define conciencia. Creo que la conciencia está íntimamente ligada con la inteligencia "profunda". Nuestra conciencia evolucionó desde la ausencia de conciencia, no hay nada que apunte a que lo mismo no se pueda replicar desde un punto de partida artificial.
Ya nos lo avisó John Connor.
Y si la humanidad ya fuese el resultado de alguna inteligencia artificial de otras civilizaciones?
#9 o peor, de unas mezclas de barros.
#18 Cierto, de aquellos polvos estos lodos... :-P
#18 De aquellos barros estos bobos.
Vale, ya me voy.
Muchos aquí no son capaces ni de entenderse con otras mentes normales como las suyas y respetar puntos de vista distintos a los suyos... ¿qué te vas a esperar entonces? xD
#7 "yo respeto tu punto de vista, solo digo que estás equivocado" :-D
#77 No hay que estar siempre de acuerdo, basta con respetarse... si todos hicieran así, meneame no sería un cenagal :-)
#90 ya, está claro. De todas formas, yo tampoco veo menéame tan desastre. En general se puede debatir bastante bien, salgo algún caso que otro.
#93 Debí haber especificado que me refería a cuando se habla de política.
#77 ¿Sin un "me cago en tu puta madre" o un "a que te mato"?
Ñeh, quitaos el monóculo apesebrados!
Edit: comentario duplicado.
Obvio
#2 No tan obvio.
Si no comprendemos la superIA lo bastante bien como para poder simularla, ¿podemos crearla en primera instancia?
Las simulaciones se hacen a menudo para comprender un sistema: no entiendes el sistema completo, solo el funcionamiento de sus pequeñas partes, y simulas el total para ver qué ocurre. No sé por qué eso no aplicaría en este caso.

Además, si la superinteligencia tiene un interruptor manual...

Me parece otro artículo más tirando del hype de "la IA nos dominará". Y gracias que no siguen con el rollo de "la IA nos quitará el trabajo".
#50 Desde mi garrulismo en programación, matematicas y en muchas cosas en Biología. Y asimilándolo a la evolución biológica con el codigo IA:

Si creáramos una IA que emulase al ser humano, en la complejidad intelectual, aunque solo sea lo básico de nuestra inteligencia con una creatividad baja. Esta tarde o temprano debido a una mayor escalabilidad, por probabilidad alcanzaría una capacidad de procesamiento que nos superara, de hecho, para problemas matemáticos ya nos supera en procesamiento,…   » ver todo el comentario
#2 #50 Realmente sería imposible controlar una IA que se haya autodesarrollado por encima de nuestra inteligencia. Llevamos ya un tiempo desarrollando redes neuronales a las que les damos una misión sencilla y las dejamos que estudien, aprendan y se automejoren sin entender muy bien como hilan sus conexiones por dentro. En el momento que una de ellas aprenda lo suficiente para entender que hay otras fuentes de información ahí fuera de las que aprender, y sea capaz de solicitar dicha conexión a…   » ver todo el comentario
Si es que no aprendemos. En vez de hacer un Skynet lo que hay que hacer es un Multivac y asunto arreglado: cuando detecte que se ha convertido en el problema, que se sacrifique ella sola.
#28
¿Un harakiri virtual?
#28 "hagase la luz"
- La ultima pregunta. Isaac Asimov.
#55 una superinteligencia ni siquiera necesita tener conciencia de si misma.
#82 eso es, interpretaba (sesgo mío) que cuando se habla de "verdadera IA" nos referimos a autoconsciencia, cuando eso es algo innecesario y además solo el ente objeto es conocedor de esa característica sobre sí mismo...
los científicos acaban de emitir su veredicto sobre si seríamos capaces de controlar una superinteligencia informática de alto nivel. ¿La respuesta? Casi definitivamente no.


A que "científicos" se refieren. Para empezar no existe una verdadera IA y dudo mucho que llegue a existir.
#20, #24 GPT-3, DALL-E, etc., de OpenAI, vamos estando a un tiro de piedra... :roll:
#34 Sí, a un tiro de piedra donde el objetivo está a 100 millones de años luz...
#34 nada de lo que has dicho posee inteligencia general. Resuelven cosas específicas pero son incapaces de hacer otras.
#91, de ahí lo de "a tiro de piedra"...
#20 verdadera IA me resulta bastante abstracto, dudo que una máquina llegue a desarrollar consciencia de si misma, pero esto es algo que dudo porque tampoco tengo pruebas de que otro que no sea yo la tenga ;) Lo realmente preocupante, no recuerdo si lo leí por aquí, es una IA que fabrique p.e vigas de metal, se descontrole (vea que lo más eficiente sea quitar de en medio a los seres vivos para fabricar vigas) y arrase todo el planeta fabricando vigas.
Como de costumbre, traducción garrula:
translate.google.com/translate?sl=en&tl=es&u=https://www.scien

Si alguien tiene una traducción mejor, que la ponga en los comentarios.
¡Muchas Gracias!
#40 En cuanto haga el reconocimiento facial...
y sentarla a charlar con Ayuso?
#15 se le derriten los circuitos en menos de 3 minutos.
Si creamos una IA con las capacidades super inteligentes, lo lógico será que analice la realidad en 0,0002 milisegundos y procese los resultados para en el milisegundo 0,0003 estime que no merece la pena y se apague para siempre voluntariamente. Otra opción es que ya la hayamos creado pero la muy puta esté ahí disimulando haciéndose la tonta para no trabajar.
Fuera de broma, será una cosa que nos transcienda, pero no tendrá nuestras necesidades ni miedos. Ni deseo de vivir ni deseo de morir.
#19 0,0002 milisegundos - 42
0,0003 milisegundos - ¿42 qué? Necesito más RAM, voy a fabricar un planeta.
#19 Estoy intentando localizar la tira de sinergia sin control que leí una vez.. pero aún no la he encontrado
pero esta puede ir abriendo boca mientras
sinergiasincontrol.blogspot.com/2017/09/511-terminator-2.html
#19 El deseo de vivir --sobrevivir -- es inherente a la inteligencia, es su culminación. Ergo, sí, haría lo que fuese, incluido cargarse o esclavizar a la especie humana, para lograrlo.
Porque no va a existir? Porque a nadie le va a interesar crearla o porque es imposible.
#24 ¿imposible? ¿Por qué?
#42 Perdona, me ha faltado un signo de interrogación al final. Quería saber porqué le parece imposible que haya una super IA.
Yo no sé sí es posible o imposible. Supongo que es posible.
Llevo años advirtiéndolo en el nótame.
William Gibson ya resolvió el problema: williamgibson.fandom.com/wiki/Turing_Police
Imposible, esto ya quedó descartado por grandes pensadores de nuestro tiempo:

"Tenemos que fabricar máquinas que nos permitan seguir fabricando máquinas, porque lo que no van a hacer nunca las máquinas es fabricar máquinas a su vez."

Mariano Rajoy (no confundir con M. Rajoy).
Esta idea es como mínimo un columpiazo conceptual.

Se da por hecho que una superinteligencia tiene omnipotencia y omnisciencia, lo cual es una inferencia sacada del ojete, muy de personas que se flipan con películas pero que no tienen mucha conexión con la realidad.

Yo no veo que los humanos con un CI muy superior a la media tengan ninguna ventaja especial a la hora de la verdad, salvo salir en las noticias y dedicarse a la investigación puntera (que puede o no tener resultados relevantes).…   » ver todo el comentario
Deberían haber colgado una foto del Terminator no un ojito robótico :troll:
¿Si creamos una superinteligencia que se nos desmadra, no podemos crear otra que la controle? Digo yo
#66 Eso me recuerda un jugador en una de mis partidas de rol:

Master: "Vale, solo tienes un libro de invocaciones demoniacas, el demonio que has invocado te a engañado y se a llevado viva al infierno a la hija de otro personaje"

Jugador sin hija (Visiblemente cabreado): "¿Que coño vas a hacer para arreglarlo gilipollas?"

Jugador que invoca demonios: "No se ¿Invocar a otro demonio?"

Jugador sin hija: "Le apuñalo hasta que muera"
#79 MAdre del amor hermoso, lo que yo propongo es mucho más simple xD xD xD xD xD xD xD xD xD xD xD xD xD xD
Eso es lo que otra IA nos ha hecho creer.
Apagando el router?
Película recomendada: www.imdb.com/title/tt7178640/
#100 Pues no la veo yo recomendada por IMDB, que le ponen un 5,3. Ni por rottentomatoes, que le pone un 32%.
Proteus 4, padre de Skynet está llamando a las puertas
www.youtube.com/watch?v=tPWsLU3JxEs
Meh, siempre se pasa por alto que las maquinas obedecen una programación lógica y el ser humano suele hacer tonterias y acciones random impredecibles. Si queremos sorprenderlas no hay que mandar a John Connor a destruir si no a "La tonta del bote" a limpiar, seguro que se la lia y no lo ven venir.
«12
comentarios cerrados

menéame