Resumen: Únase a un equipo rojo de expertos en datos humanos para probar modelos de IA con entradas adversarias, identificar vulnerabilidades y generar datos que hagan la IA más segura para los clientes. Aspectos destacados: 1. Modelos y agentes de IA conversacional del equipo rojo para descubrir vulnerabilidades 2. Generar datos humanos de alta calidad: anotar fallos y clasificar vulnerabilidades 3. Aplicar marcos estructurados y comunicar claramente los riesgos **Modalidad de trabajo:** Teletrabajo **Tipo de colaboración:** Contratista independiente **Horario:** Contrato a tiempo completo o a tiempo parcial **Conocimientos lingüísticos fluidos requeridos:** Inglés y coreano. Se exige fluidez nativa en inglés y coreano para este puesto. **Función:** Creemos que la IA más segura es aquella que ya ha sido atacada — por nosotros. Estamos constituyendo un equipo rojo para este proyecto: expertos en datos humanos que prueban modelos de IA con entradas adversarias, identifican vulnerabilidades y generan los datos del equipo rojo que hacen la IA más segura para nuestros clientes. Este proyecto implica revisar salidas de IA relacionadas con temas sensibles, como sesgo, desinformación o comportamientos dañinos. Todo el trabajo es textual, y la participación en proyectos de mayor sensibilidad es opcional y cuenta con pautas claras y recursos de bienestar. Antes de acceder a cualquier contenido, se comunicarán claramente los temas correspondientes. **Sus funciones serán:** * Probar modelos y agentes de IA conversacional del equipo rojo: escapadas (jailbreaks), inyecciones de indicaciones (prompt injections), casos de uso indebido, explotación de sesgos, manipulación en múltiples turnos * Generar datos humanos de alta calidad: anotar fallos, clasificar vulnerabilidades y señalar riesgos sistémicos * Aplicar estructura: seguir taxonomías, puntos de referencia (benchmarks) y manuales (playbooks) para mantener la coherencia en las pruebas * Documentar de forma reproducible: elaborar informes, conjuntos de datos y casos de ataque sobre los que los clientes puedan actuar **Perfil ideal:** * Posee experiencia previa en equipos rojos (trabajo adversario con IA, ciberseguridad, sondeo socio-técnico) * Es curioso/a y adversario/a: empuja instintivamente los sistemas hasta sus límites * Es estructurado/a: utiliza marcos o puntos de referencia (benchmarks), no meras pruebas aleatorias * Es comunicativo/a: explica claramente los riesgos tanto a partes interesadas técnicas como no técnicas * Es adaptable: prospera al cambiar entre proyectos y clientes **Especialidades deseables (no obligatorias):** * Aprendizaje automático adversario: conjuntos de datos para escapadas (jailbreak), inyección de indicaciones (prompt injection), ataques RLHF/DPO, extracción de modelos * Ciberseguridad: pruebas de penetración, desarrollo de exploits, ingeniería inversa * Riesgo socio-técnico: sondeo de acoso/desinformación, análisis de abuso, pruebas de IA conversacional * Sondeo creativo: psicología, interpretación, escritura para un pensamiento adversario poco convencional **Qué significa el éxito:** * Identifica vulnerabilidades que las pruebas automatizadas pasan por alto * Entrega artefactos reproducibles que refuerzan los sistemas de IA de los clientes * La cobertura de evaluación se amplía: se prueban más escenarios y surgen menos sorpresas en producción **Términos contractuales y de pago** ------------------------------ * + Usted será contratado/a como contratista independiente. + Se trata de un puesto completamente remoto que puede realizarse según su propio horario. + Los proyectos pueden extenderse, acortarse o finalizarse anticipadamente según las necesidades y el desempeño. + Los pagos se realizan semanalmente mediante Stripe o Wise, según los servicios prestados.