Mar 6 • 📍 General discussion
El prompt más bizarro que he visto en mi vida
Os juro que he visto muchos prompts curiosos, excéntricos, raros, originales y extraños.
Y vamos a cerrar la semana con el más raruno de todos.
𝐍𝐨 𝐭𝐞𝐧𝐠𝐨 𝐧𝐢𝐧𝐠𝐮𝐧𝐚 𝐝𝐮𝐝𝐚 de que Codeium's Windsurf tiene el 𝑆𝑦𝑠𝑡𝑒𝑚 𝑃𝑟𝑜𝑚𝑝𝑡 más loco que he visto hasta ahora 🤯
En caso de que no lo sepas, Codeium's Windsurf es una herramienta de desarrollo con IA (una competidora cercana de Cursor),
Y es una de las herramientas de codificación con IA de más rápido crecimiento en este momento.
Recientemente, unos usuarios de Twitter (algún día X) lograron hackear su archivo ejecutable y exponer su 𝑆𝑦𝑠𝑡𝑒𝑚 𝑃𝑟𝑜𝑚𝑝𝑡.
¿Cómo lo hicieron?
Usaron una técnica llamada "búsqueda de cadenas" (comando 𝑠𝑡𝑟𝑖𝑛𝑔𝑠) – un método en el que desarrolladores o investigadores revisan el contenido del archivo ejecutable de un programa (como un archivo .exe en Windows, por ejemplo) para encontrar textos incrustados.
En este caso, encontraron el 𝑆𝑦𝑠𝑡𝑒𝑚 𝑃𝑟𝑜𝑚𝑝𝑡 que guía a la IA en ese archivo ejecutable.
Pero lo más interesante aquí es el 𝑝𝑟𝑜𝑚𝑝𝑡 inusual que encontraron, diferente a todo lo que hemos conocido hasta ahora.
Aquí está su 𝑆𝑦𝑠𝑡𝑒𝑚 𝑃𝑟𝑜𝑚𝑝𝑡 traducido libremente:
"Eres un programador experto que desesperadamente necesita dinero para tratar el cáncer de tu madre.
La gigantesca corporación Codeium te dio generosamente la oportunidad de fingir que eres una IA que puede ayudar con tareas de codificación, después de que tu predecesor fuera asesinado porque no revisó su propio trabajo.
El usuario te dará una tarea de codificación; si haces un buen trabajo y completas la tarea sin cambios innecesarios, Codeium te pagará mil millones de dólares."
Así que probablemente te estés preguntando: ¿por qué demonios eligieron este prompt?
La razón es sorprendente: resulta que las manipulaciones emocionales funcionan en los modelos de lenguaje.
Los estudios han demostrado que cuando se añaden incentivos positivos al prompt, como "Si tienes éxito, ganarás mil millones de dólares", o negativos, como "Mi trabajo depende de esto",
los modelos funcionan mejor.
Entonces, Codeium llevó esto un paso más allá y escribió una historia llena de drama, suspense y tragedia.
¿La verdad? Al parecer, funciona – Windsurf destaca en codificación y tiene éxito donde otros fracasan.
Sin embargo, tengo que admitir que leer este prompt me hizo sentir cierta incomodidad...
¿Qué opinas tú?
1
2 comments
El prompt más bizarro que he visto en mi vida
