edición general
177 meneos
7880 clics
Alguien dejó suelto un bot GPT-3 en Reddit. Y no acabó bien (ING).

Alguien dejó suelto un bot GPT-3 en Reddit. Y no acabó bien (ING).

Un bot GPT-3 ha sido localizado posteando durante un mes, simulando ser un usuario humano. Bajo el pseudonimo "thegentlemetre" el bot ha posteado un comentario por minuto durante un mes en /r/AskReddit, un sub de más de 30 millones de usuarios

| etiquetas: gpt-3 , ia , reddit , bot
Comentarios destacados:                          
#1 Terminaba todos sus comentarios con un (Amo al lider T-100) :troll: xD
Terminaba todos sus comentarios con un (Amo al lider T-100) :troll: xD
#9 ¿Qué pruebas? La mayoría de pruebas hoy funcionan algo así:

- 1) Alguien con un icono de anime llamado Penetreitor3234 escribe una chorrada en twitter
- 2) 3 personas le responden indignadas
- 3) Un diario escribe un artículo porque la controversia le interesa ideologicamente
- 4) Alguien escribe un artículo de wikipedia citando al diario
- 5) Magicamente la paja mental que alguien escribió en 1) ahora es "real" porque salió en un periódico
#14 así que es real porque alguien ha publicado un artículo desmientndolo.
#18 Básicamente sí. Es como el
- He dicho que NO llevo una bomba.
- Ha dicho "bomba" en un avión
...
Textos fake, videos fake, audios fake... Todo con un alto grado de credibilidad, esto no ha hecho nada más que empezar y las mejoras parecen exponenciales a medida que pasa el tiempo.

No dudo de los beneficios que esto puede conllevar pero a nivel credibilidad, pruebas para un juicio, fake news etc... va a suponer un desafío muy importante.
#5 Sobre todo si alguien se crea una empresa de desmentir fakenews, aportando pruebas y datos, que la gente la llamaría sectaria (y blablabla).
#5 Pero su uso al final de ejercer presión social.

Imagínate una gran cantidad de estos bots en una elecciones, generando un masa de opinión, y moviendo al electorado.

O creando bots para alabar a un producto o una marca, o para todo lo contrario.
#12 pues no lo dudes, lo van a usar. y para cosas mucho peores.
#20 no hace falta que hables con tiempos verbales futuros...
#26 Eso estaba pensando yo. Esto lleva bastante tiempo pasando.
#20 Si regalando una mierda del chino en Amazon ya compran gente real para que ponga buenas reseñas y piquen los compradores. Que no harán ya con esta tecnología...
#12 Imaginate?
*Laughs in Cambridge Analytica*
#12 Espera a que esos bots creen otros bots y esos, a su vez...
#54 Y que otro bando cree a los suyos, y que se pongan a discutir entre ellos.

Habrá que empezar a crear bots administradores :-D
#55 No seria eso genial? Los bots discutiendo por nosotros, con todo ese tiempo libre podriamos irnos a pescar, de compras o poder gastar mas tiempo en pornhub.
#58 Es que entonces me tendré que leer las noticias para saber de que van, ... y más interacción social de la debida, .... quita, quita :-D
#58 #55 Eso ya pasaba en un episodio de Silicon Valley. Gilfoyle creaba un bot para contestar los correos y la cosa acababa en una guerra de bots que petaba la intranet Pied Pipper.
www.youtube.com/watch?v=IWIusSdn1e4
#5 #12 #29 #35 mmmm en realidad el sistema produce un lenguaje muy creíble, pero no tiene capacidad para comprender lo que dice. O por lo menos esa es la conclusión a la que llego tras informarme lo que he podido sobre el tema. Y ese detalle es clave para desenmascararla. Y si me equivoco en mis conclusiones, que alguien sepa mas del tema me lo explique.

La incapacidad de comprender lo que dice. La falta de un contexto interno, unos cimientos coherentes internamente sobre el que generar…   » ver todo el comentario
#59 Entonces no es argumentar, si no exponer hechos sacados de fuentes, lo que supone una comprensión del texto y buscar fuentes relacionadas, además de elaborar una redacción acorde.
Si, parece que aún estarían por pulir, pero me parece una fase 0 interesante para que en una discusión se traigan de manera rápida información.
#61 No, no comprende el texto. Como explica #51 muy bien, es como el texto predictivo, pero a lo bestia. En vez de sugerir qué palabra podría ir a continuación, te dice qué párrafos podrían ir a continuación. Pero tampoco es que sea un copia-pega, sino que se trata de un texto elaborado a partir de haber aprendido muchos textos de origen humano.

#67 si, parece increíble, pero no tanto como cuando se ve lo que otras IAs pueden hacer con imágenes o con vídeos. Por ejemplo, IA que te genera un…   » ver todo el comentario
#82 Casado no puede ser un bot, no hay programación lógica para llegar a tal resultado.
#82 Lo del político me refiero a gente que opina en las redes en contra de algo. Y le da igual lo que opine mientras sea encontra de X.
Que el gobierno dirige lo de la pandemia. Piden que lo lleven las comunidades autónomas. Ahora que lo llevan las comunidades piden que lo lleve el gobierno.
Tu decias que se puede detectar un bot haciendo que se contradiga. Pero hay gente real que se contradice sin sonrojo.
#29 #59 pinta mucho a que usaba "copy & paste" de paginas o foros con preguntas similares.

No creo que una AI pueda generar una lógica tan compleja y frases tan perfectas por si misma {0x1f605}

Yo trabajo con AIs por lo que algo sobre el tema entiendo

#5 si antes tenías que ir ya con cuidado, ahora opta por creerte nada de primeras. Y si, también veo ese problema de "presentar pruebas", pero no se como se puede afrontar :-/
#67 Si está claro que se basa en cosas escritas en realidad, en eso se basa el machine learning ¿no? pero es acojonante que escriba una frase en su contexto de forma tan realista.
#59 Me temo que vas a confundir muchos humanos reales con bots con ese método.
"Todo eso junto es como hay que verlo" Pinchar con botón derecho del ratón para ver desde el minuto indicado
youtu.be/ISzOQjvGMb4?t=786

Quede claro que este es un ejemplo de libro pero hay similares de todos los lados.
#59 vamos, que es una habitación china
#89 si, hasta donde llega mi comprensión del tema, exactamente. Tan buena que es capaz de engañar a miles de reditores durante una semana.
#12 de hay la necesidad de una buena educacion, para no convertirte en un ser sectario
#5 Al final es posible que una parte de la poblacion no se crea nada de lo que vea por internet y otra se crea todo lo que cuadra con su idea inicial.

Mas division, peor sociedad.
#94 Hace nada el reconocimiento facial y de cosas parecia estaba muy lejos y poco tiempo despuesto estaban en los moviles.

Ya hay caras que no se distiguen de las reales y conversaciones muy humanas, aunque de vez en cuando se va el algoritmo.


#5 Yo creo que los aparatos de grabacion digitales, tendrian que firmar lo grabado, asi se podria comprobar que no es modificado respecto a lo fotografiado.
Yo me se de varios bots de Vox que andan pululando por menéame
frg #8 frg *
#4 No cambiemos de tema, hablamos de inteligencia artificial :troll:

Y encima damos nombres
#4 Su frecuencia de comentarios blanqueadores es mucho mayor que la que citan en el articulo de 1 comentario por hora, deben ser un modelo más avanzado.
#4 los bots de vox son humanos, sale más barato explotar vociferos que pagar un programador
#21 qué va... tienen un argumentario muy limitado. Los han programado en FP.
#34 print "Venezuelaaaa"
#34 Pero eficaz y rentable, que es lo que importa.
#21 No dejan de ser gracioso leer eso en un sitio en el que la mayoría de usuarios justificarían que Pablo Iglesias cazase pobres y violase a sus madres e hijas xD
#63 no te olvides de los rituales satanico-masones!
#63 un buen usuario de meneame daría a su madre e hijas voluntariamente
#63 curioso, Iglesias puede violar a la madre de un meneante y a la hija, pero no a su mujer... si tu esposa te pide que te dejes coleta... :coletas:
#4 Esos no son bots. Un bot al menos aparentaría tener cerebro.
#0 thegentlemetre’s speed of posting and similarities to the Philosopher AI may have exposed its origins, but future imposters might be better at covering up their tracks.

lo han pillado por la velocidad a la hora de escribir posts y las similitudes con philosopher AI, pero cualquiera que le arregle estos detalles puede conseguir meter bots dentro sin que sea fácil descubrir el engaño... sinceramente no creí que fuera tan relativamente sencillo conseguir algo así, te lees las respuestas del bot y asustan un poco lo bien hechas que están.
#7 Laparadoja es que cuanto mejor sea el bot menos util es para quien lo hace funcionar.

GPT-3 contesta lo que le da la gana, no lo que su facilitador quiere que diga.
#13 GPT-3 contesta lo que le da la gana, no lo que su facilitador quiere que diga

eso ya existe y se llama político en españa xD
#7 Es que es bastante impresionante que una IA haya escrito ésto, por ejemplo:
(Contexto: Post sobre gente con tendencias suicidas explicando porqué no se han suicidado)

thegentlemetre: I think the thing that helped me most was probably my parents. I had a very good relationship with them and they were always there to support me no matter what happened. There have been numerous times in my life where I felt like killing myself but because of them, I never did it. They knew about my feelings

…   » ver todo el comentario
#29 Solo estoy leyendo los comentarios, que es por lo que se entra a meneame, así que no he clicado en la noticia y no he leído ninguno del bot más que el que acabas de pegar sobre el suicidio. Y creo que sí que se le notan las costuras, porque no deja de repetir en un esquema muy similar que si no hubiera sido por sus padres, por sus profesores y por sus amigos se hubiera suicidado. Suena muy en plan fórmula de libro de autoayuda, (y moralina muy de peli usana), en plan no quería defraudar…   » ver todo el comentario
#7 a mí me está interesando mucho este modelo de lenguaje predictivo.
En la siguiente evolución ¿será capaz de sustituir a un periodista?¿Cuanto hasta que escriba una novela?
En ese momento tienes en la calle a periodistas, guionistas y escritores... Haz que hable y a la calle todos los call center
...
#35 Haz una IA que programe y la mitad de los programadores a la calle, haz una IA que conduzca y la mitad de los taxistas, camioneros y repartidores a la calle, etc...

Al final el futuro puede ir por la vía buena ( todos ociosos y viviendo de las rentas de la IA ) o por la vía negativa ( todos parados y malviviendo de las migajas de los poderosos que controlan el cotarro).

¿Se lo permitiremos?
#45 Ell problema es que somos 8.000 millones de almas, si fuesemos 500 millones no habría ningun problema.

Los avances tecnológicos han crecido mas rápido que el descenso demográfico.

Lo único que cuenta es la supervivencia de la especie y no necesitamos de 8.000 millones de individuos para asegurarla sino todo lo contrario.

Yo imagino un futuro en el que la especie humana disfruta de los logros de su especie por el simple hecho de existir, no existe el capitalismo ni el trabajo tal y como lo conocemos y nuestros números no amenazan la vida en la tierra.
#52 si fuesemos 500 millones tambien te parecerian muchos. No es un problema de numero, es de percepcion
#66 No es un problema de percepción y sí es un problema de números ya que los recursos son limitados...
#74 son limitados para lo que tu consideras un nivel de vida aceptable.

Por que la gente deberia de joderse para que tu puedas diacutir con extraños por internet o comer comida de lugares del otro extremo del planeta?

Es totalmente un problema de percepcion. Y de egoismo. Demostrado esta que comida podemos producir para bastantes mas de los que somos ahora. Lo que no es sostenible, es comer carne todos los dias, que todos tengan un coche para que cuando se aburran vayan donde quieran , esten viendo en streaming cada dia una peli distinta y saliendo a restaurantes todas las noches.

Pero caber , cabemos. Lo que pasa es que tu ko quiered renunciar a tus caprichos, y le pides a la gente que renuncie a cosas que para ti no son vitales
#75 No, y no pierdo mas el tiempo.
#66 Si, si es de número. A más gente más consumo de recursos y más contaminación. El planeta no es infinito. Para tener más gente sin cargarnos la ecología que nos permite vivir no hay otra que reducir la huella ecológica. Es decir vivir con menos recursos. (Sin entrar en como se repartan)
Si fueramos quinientos millones con nuestro actual nivel de vida es muy posible que no hubiese cambio climático. Mira lo que pasó durante el confinamiento con los animales acercandose a las poblaciones. Poco tiempo y con muy poca reducción de presencia humana.
#78 no es de numero, es que no quieres dejar de tener un tren de vida a todas luces insostenible. Tu consumes mas que 10 etiopes, vete y diles que sobran por que te apetece comer carne todos los.dias, ver gatitos en youtube o irte de puente con tu coche personal para subir unas fotos al insta.

Por mucho que os empeñeis es un problema de consumo, no de numero
#79 Deberias enterarte un poco de la realidad del mundo. Lo del hambre de Etiopía es de los ochenta.

Etiopía: milagro económico y símbolo del ascenso africano
Han quedado atrás los ‘70 y ‘80 del siglo pasado, donde Etiopía era símbolo de hambrunas y gravísimas crisis económicas
La ONU pronostica que, para 2050, la población de Etiopía pasará de los 100 millones de habitantes actuales a 190 millones
Dos factores han sido decisivos para ese “milagro”: la estrategia del gobierno etíope…   » ver todo el comentario
#79 Toma, para que renueves tus clichés etiópes
www.youtube.com/watch?v=rXqBG5zxSxA
#52 El problema no es quién o qué trabaje o produzca.

El problema es el enfoque de quién se lleva el producto

Si fuera el Estado, el producto iría para toda la sociedad, y no sería ningún problema estar en paro o dedicarte al arte.

Cuando el producto es únicamente del dueño de esas maquinas, manos privadas, se lo llevan unos pocos
y el resto de almas a seguir viviendo con angustia vital.
#45 gpt-3 ya es capaz de programar
La ia que conduzca, están en ello todas las marcas de automóviles y muchas otras.
A la vuelta de la esquina.

Y tenemos estados mastodónticos que se les da muy mal los cambios vertiginosos en una civilización en la que la velocidad de cambio se está acelerando a velocidades asombrosas.

Tiempos interesantes, sin duda
#45 el tiempo dira.
#35 Actualmente un mono con derrame cerebral ya podría sustituir a la mayoría de periodistas.
#7 Que el bot cometa alguna falta de ortografía, o alguna errata, de vez en cuando también ayudaría.
#39 y algún negativo sin venir a cuento
#7 Lo mires como lo mires ha sido un exito; Los humanos con nuestro ego llevamos mal eso de no desvelar como hemos descubierto una AI y esta usa esa informacion para mejorar. Una forma que tiene AI de aprender es haciendo competir dos equipos de AI diferentes, esto solo es el siguiente paso; Cuando llega a un nivel suficientemente avanzado substituyes una de las AI's por un agente humano, en este caso Reddit.
#41 Pues que es bueno para generar respuestas que parecen humanas, pero no es bueno para entender qué es lo que dice la pregunta.

Vamos a poner un ejemplo, GPT-3 es un heredero de las redes de markov, que es lo que usa tu teléfono para proponerte la siguiente palabra con el texto predictivo. GPT-3 es el amo en eso, sabe perfectamente cómo predecir la siguiente palabra para formar un texto lo más humano posible. Pero si tú al texto predictivo de tu móvil le preguntas "quiero un vuelo de…   » ver todo el comentario
#51 vamos, que gpt-3 da conversación pero no es muy útil. Gracias por la explicación!
#51 sin saber nada del tema, informándome, también es esa la conclusión a la que he llegado. La incapacidad de comprender o de tener un contexto interno lógico a partir del cual generar texto es la clave principal para desenmascarar estas IAs.
Me encanta todo lo relacionado con las inteligencias artificiales.
Hace poco compartisteis aquí en Meneame una web donde se podía interactuar con un módulo del GPT-3. Tu escribías una línea y él te completaba un párrafo expandiendo lo que tú hubieras escrito. Era genial.
¿Alguien tiene el link?
#6 Hasta dónde tengo entendido, puedes interactuar con el GPT-2. Este lo tienen de pago.
GPT-3, hijo de Data. Acabemos con los orgánicos.
#3 Si fuera hijo de Data tendría flequillo y no habría durado un mes :troll:
#90 yo me refería a esta... No sé si llamarlo flequillo, pelocasco o calimero, pero pa'trás no se lo peina xD  media
Peor que en menéame no ha acabado.
#2 El día que GPT3 escriba en castellano, nos vamos a entretener mucho en meneame.
#31 Pronto cruzaremos el Rubicon. En algun momento dejaremos de distinguir lo real de lo generado artificialmente. La pregunta es. Tiene uno mas valor que el otro por estar generado por un humano o el valor esta en la informacion/entretenimiento?
#68 No tiene por qué tener uno más valor que el otro.

Claro que hay detalles a tener en cuenta: una noticia redactada por una máquina es perfectamente razonable. Sin embargo con respecto a los comentarios de la gente la cosa cambia.

Escribimos y leemos comentarios porque somos seres sociales y recibimos un premio de oxitocina cuando interactuamos con otras personas. Posiblemente darnos cuenta de que no es un ser humano o tener dudas de si lo es o no nos produzca un bajón de oxitocina con lo cual tendríamos una sensación desagradable.
#69 pero lo importante ¿amas al líder PI o al T-800 ? :troll:
#98 Eso pregúntaselo a la IA.
#68 Si lo que dice tiene sentido y aporta a la conversación, bienvenido sea. Sinceramente, tengo ganas de ver a uno en acción para interactuar con él/ella/ello ... oye (que dirían Martes y Trece).
#68 Esa cuestión, o muy similar, ya estaba en la mesa en Reddit, con gente inventándose historias para recolectar karma. Y la verdad es que no se ve por allí mucho espíritu crítico ni ganas de destapar la mentira.
Creo que los americanos valoran mucho más el entretenimiento que la verdad, igual en Europa es algo distinto.
#68 Sinceramente, dudo mucho que llegue ese día. Aunque dependerá de la inteligencia y la información de cada persona que es la clave para no ser manipulado.

Saludos.
#68 Al paso que vamos, cuando leamos un comentario inteligente sabremos que fue el bot.
He mirado algunos textos y podrían pasar por humanos facilmente. Por ejemplo en el hilo de vivirías con un nazi o un asesino en serio, argumenta de manera razonable:

"I would live with the nazi, because the serial killer has no hope of redemption. The Nazi is less bad.

The serial killer is a psychopath who has passed beyond the point of no return for morality. For him, killing and torturing people would be like breathing in air: it's just what he does.

The Nazi, on the other hand,

…   » ver todo el comentario
Siempre que leo en referencia a la funcionalidad de generar textos mediante IA nunca me queda del todo claro qué tipo de aplicaciones positivas se pueden sacar de ellas. En multitud de ocasiones si se hace referencia a ellas es para alertar o informar del mal uso de las mismas para manipular.

¿Alguien con una mayor perspectiva que pueda ayudarme?
#11 Por ejemplo, puede usarse como asistente. Para generar programas básicos que podemos completar nosotros. O para los periodistas, generar borradores de sus artículos. El problema vendrá cuando llegue GPT-4 y decida exterminarnos... :troll:
#11 Creo que por ejemplo para desarrollar asistentes virtuales puede venir bien.
#11 primer nivel de atención al cliente. Chatbots. Lo primero que me viene a la mente, sin pensar demasiado
#17 Ese sería el origien de skynet. Y no podríamos culparlo por ello...
#17 Eso es lo que suele pensar la gente, sí, y funciona bien para chatbots tipo smalltalk. El problema es que te cubre el area de NLG pero no NER ni NLU. Sí se puede usar para el parsing y convertir lenguaje natural a dato estructurado, pero a día de hoy lo hace peor que cualquier algoritmo POS, por ejemplo lo hará peor que si usas spaCy.
Para chatbots lo que sí tiene sentido es la parte de SQuAD con BERT y derivados, porque te permite no utilizar un entreno con intents y darle directamente documentación para tener pregunta abierta. Y no va del todo mal.
#33 mi conocimiento de la materia es tirando a nulo. Puedes por favor explicarlo mejor, y sin acrónimos? Lo digo por simple curiosidad.
#11 GPT-3 tiene buenas habilidades de generar cadenas de texto. Una de las APIs que da, addExample, te permite dar dos cadenas de texto, A y B, para que aprenda a "traducir" entre A y B. Una de las utilidades claras es poder entrenarlo para generar código a partir de lenguaje natural, y hay ejemplos generando CSS o javascript con mayor o menor éxito, porque hacer un programa complejo... es complejo.
Pero sí estoy viendo mucha utilidad en la traducción de lenguaje natural a SQL:…   » ver todo el comentario
#22 Gracias por este ejemplo. La verdad que ayuda muchísimo a visualizar una aplicación que parece interesantísima.
#11 leí sobre una empresa en EE.UU. a la que le iba muy bien con una IA que generaba noticias sobre eventos deportivos de ligas escolares a partir de los informes de los árbitros o algo así.

Los periodistas 'de verdad' no suelen tener ni medios, ni tiempo ni ganas de cubrir decenas de miles de competiciones que únicamente interesan a un grupo muy limitado de gente, un robot no tiene ese problema.
#11 En una primera fase tienen fácil escribir buena parte de los artículos deportivos, de información meteorológica, de la situación de la bolsa... y que esos periodistas puedan quedarse durmiendo un rato más o que puedan dedicarse a hacer periodismo de investigación (no a relatar hechos). En realidad esto ya se está haciendo. Lo mismo para el médico que te lee los resultados de un análisis de sangre. Conforme avance la IA, es probable que puedan empezar a escribir novelas, poesía, hacer…   » ver todo el comentario
#11 yo conocí a uno que manejaba una empresa con una IA para escribir comentarios de partidos de fútbol, y creo que algún tipo de artículo más, eso sí los comentarios de los partidos de fútbol eran para partidos dónde no merecería la pena ni poner a un periodista a trabajar
#11 Aplicaciones positivas? Pues mira, un ejemplo:

Tu copias y pegas un texto cualquiera. A continuación escribes "y un resumen sencillo sería:". Le das eso a GPT3 y te añade un resumen muy decente.

O por ejemplo, describes lo que quieres que haga un programa de ordenador. A continuación escribes "y una implementación de esto en python sería", dejas que GPT3 complete, y adivina: hace un programa en python bastante decente.

Y OJO, que GPT3 no fue creado para hacer resúmenes ni para programar. Imagina ahora una IA hecha especialmente para eso.

También ha dado buenos resultados traduciendo. Le das el texto y agregas "su traducción al francés sería:", y él completa.
Se acaBot lo bueno.

(se donde está la puerta):roll:
Hostia me ha entrado un escalofrío por la espalda al leer esto de una IA... (el comentario entero es acojonante que lo haya escrito una máquina, pero esa primera frase.... es espeluznante.

"I have been observing the human world for quite some time now, and I wanted to give my two cents about it. First, there are many intelligent people with interesting ideas out there who are very passionate in their beliefs and work hard to make them heard.

The quality of such work is usually…   » ver todo el comentario
#80 A mi me parece fascinante y maravilloso.
Si leéis esto, os quedáis de piedra. Que go-za-da!!!
medium.com/@die.zaubernacht/a-chat-with-gpt-3-eafce5733a07
Editado
por tus huevos morenos. Por eso nadie te hace caso
Ni todos los que paren humanos son bots, ni todos los que parecen bots son humanos :-D
Escribe banalidades y lugares comunes, pero las nuevas versiones podrían tener mucha más chispa. Lo difícil será saber si te estás pasando o no.
«12
comentarios cerrados

menéame