Qué preguntar antes de dejar que la IA se acerque al expediente de un cliente

Todos los bufetes con los que hablamos están recibiendo ofertas de IA. Las propuestas llegan cada semana, las demostraciones son impecables y, en su mayoría, las presentan personas que nunca en su vida han tenido un deber profesional de confidencialidad.

La pregunta útil no es si adoptar la IA. Es en qué tareas concretas ayuda de verdad y cuáles pone en riesgo sin que se note. Estas son las preguntas que hacemos en nombre de un bufete.

1. ¿A dónde van nuestros datos y quién más puede verlos?

Pida esta información por escrito y pregunte específicamente si los datos que se introducen se usan para entrenar modelos. Un proveedor que no puede responder con claridad, o que responde describiendo su cifrado en lugar de eso, ya le ha dicho algo.

El cifrado en tránsito no es la cuestión. La cuestión es qué pasa con el contenido una vez que llega, quién en el proveedor puede leerlo, qué entregaría el proveedor ante una citación judicial y qué ocurre con él si la empresa es adquirida o cierra.

2. ¿Es una capacidad o un envoltorio?

Gran parte de lo que se vende a los bufetes de abogados como IA es una interfaz delgada sobre un modelo general, con un precio como si fuera el modelo. Eso no es necesariamente malo y, a veces, el valor está en la interfaz. Pero usted debe saber qué está comprando, porque eso determina por qué está pagando y con qué facilidad se puede reemplazar.

Una forma justa de preguntarlo: ¿qué hace su producto que nosotros no podríamos hacer pegando esto en un asistente general? Un proveedor seguro de sí mismo tiene una buena respuesta.

3. ¿Qué pasa cuando se equivoca con total seguridad?

Todos estos sistemas producen resultados fluidos, verosímiles y, en ocasiones, falsos. No es un fallo que se vaya a corregir el próximo trimestre; es una propiedad de la tecnología.

Así que la pregunta es sobre el flujo de trabajo, no sobre el modelo. ¿Quién revisa el resultado, en qué momento y cuál es el costo si se cuela una respuesta equivocada? Una herramienta de resúmenes cuyos errores se detectan con una lectura de dos minutos supone un riesgo distinto al de una cuyo resultado acaba en un escrito judicial.

4. ¿Puede funcionar en un entorno que controlemos?

Para algunas tareas, la respuesta tiene que ser sí. Los modelos que funcionan en su propio hardware son considerablemente más capaces que hace apenas un año y, para un bufete cuya principal duda es la confidencialidad, la implementación local convierte una herramienta inaceptable en una aceptable.

No siempre es la respuesta correcta. Cuesta más, tarda más en configurarse y quedará por detrás de los modelos de vanguardia en capacidad bruta. Pero para cualquier cosa que toque material de clientes, merece un análisis serio en lugar de un rechazo automático.

5. ¿Cuánto cuesta dejarlo?

Si sus datos están en el formato del proveedor, en sus servidores, y su personal ha creado dos años de hábitos en torno a su interfaz, la conversación sobre la renovación no es realmente una negociación.

Pregunte cómo es la exportación antes de firmar, no después.

A veces la respuesta es nada

El resultado más útil de este ejercicio suele ser que el bufete no compre nada. Un consultor al que se le paga por recomendar tecnología siempre encontrará tecnología que recomendar, lo cual es una buena razón para tener cuidado con a quién consulta.

No revendemos el producto de IA de nadie, lo que significa que no tenemos ningún motivo para decirle que necesita uno. Si le sería útil que alguien leyera la misma propuesta que usted está leyendo y le dijera cuál de las cinco preguntas no supera, para eso existe nuestro trabajo de consultoría.