Nuevas cuentas bot

Hola,

Acabo de notar que se han creado tres nuevas cuentas de bot recientemente (19 de octubre, hace tres días, acabo de notarlas hoy) en el foro en modo solo para personal alojado en servidores de San José, ¿son parte de una actualización del sistema o algo así?

Es un poco alarmante ver estos nuevos bots, no estoy seguro de si están autorizados a estar allí y cuál es su propósito.

Parece que ya hay una corrección en progreso en el plugin oficial de Discourse.

1 me gusta

Esa es una página confusa, no entiendo de qué están hablando.
No sé si es necesariamente un problema que hayan aparecido estas cuentas de bots, solo no sabía si eso debía suceder y para qué sirven.

Hemos puesto recientemente el módulo de bot de IA de nuestro plugin de IA a disposición de todos los planes en nuestro hosting. :partying_face: Estos tres usuarios son los simpáticos amiguitos que repartirían los consejos de IA una vez que lo habilitaras y agregaras las claves API correspondientes (Discourse AI - AI bot).

Sin embargo, como señala Moin, ahora creemos que sería mejor posponer su creación hasta que el módulo de Bot de IA sea realmente habilitado y configurado por los administradores del sitio. :+1: Sigue siendo un cambio en progreso, pero esperamos tenerlo resuelto pronto. :crossed_fingers:

Disculpas por el susto. :pray:

2 Me gusta

¡Ajá, eso lo explica!

Intenté hablar con Claude pero no hubo respuesta, ya que supongo que en el modo de personal no son compatibles.

Ese es un buen nombre, “Claude”.

Necesitarías configurar las claves de API relevantes para hacerlos interactivos. :+1: Puedes encontrar más detalles sobre cómo hacerlo para cada uno usando los enlaces en la sección de ‘Prerrequisitos’ de la guía que enlacé arriba - https://meta.discourse.org/t/discourse-ai-how-to-enable-ai-bot-in-discourse/266012#prerequisites-6

¿Cómo podemos eliminar las cuentas o, al menos, quitarles sus privilegios de administrador? No queremos que ninguna IA interfiera en nuestra comunidad.

Parece que se pueden eliminar al igual que los usuarios humanos.

Todo lo que veo es un mensaje que dice “No se pueden eliminar administradores y moderadores” y no hay ningún botón para eliminar sus privilegios de administrador.

Huh, para mí no aparecen como administradores.

Ni siquiera puedo cambiar su nivel de confianza. Cualquier intento de bajarlo se revierte inmediatamente

Editar: parece que había bloqueado el nivel de confianza antes de bajarlo, por lo que se revertía a lo que estaba cuando se bloqueó. Mi error.

Aún así no puedo quitarles la administración.

Aquí hay una forma diferente de pensar en ellos.

Son marcadores de posición para los bots de IA, que hasta que un administrador los configure con una clave API en la configuración de Discourse son esencialmente solo nombres de cuentas sin la capacidad de hacer nada, ni siquiera responder a un mensaje.

Aquí hay un mensaje de prueba para ver si el bot de IA responde cuando no está configurado con una clave API.

Sin embargo, si los bots están activados, tenga mucho cuidado con quién permite que converse con los bots, porque si su uso viola la política de la empresa de IA, como OpenAI, la cuenta de la clave API se deshabilitará y lo más probable es que nunca se vuelva a activar.

Como administrador de Discourse en otro sitio, también noté la actualización y revisé los bots sin la clave API configurada. Actualmente los considero inofensivos cuando no están activados y, a menos que tenga un usuario hábil, la mayoría de los usuarios nunca sabrán de ellos en este momento ni siquiera cómo utilizarlos.


En este sitio de Discourse, tengo acceso a los bots, así que aquí hay una demostración de la misma prueba.


Cuando se crea un mensaje para un bot en este sitio, la siguiente notificación se publica en la parte inferior del área de entrada de texto.

image


Misma prueba realizada en el foro de OpenAI. (Soy moderador de categoría allí)


Aquí está la publicación oficial de Discourse


Para aquellos sin acceso a la configuración de administrador, aquí están los valores predeterminados tomados de un sitio de Discourse actual
https:///admin/site_settings/category/discourse_ai

Observe que no hay ninguna clave API configurada. Tampoco publique nunca una clave API, manténgalas seguras en todo momento. Si accidentalmente publica una, sitios como OpenAI tienen una página para revocar una clave API actual y emitirle inmediatamente una nueva.

3 Me gusta

No hacen nada sin la configuración de administrador relevante habilitada, pero apreciamos que sería mejor si no se crearan a menos que realmente habilitara el módulo de Bot de IA. Hay un cambio en proceso para que sea así, por lo que deberían eliminarse de su sitio en un futuro cercano a medida que ese cambio se implemente en nuestro hosting. :+1:

4 Me gusta

¿Está eso restringido por el sistema de niveles de confianza?

Si no es así, esto podría mantenerse simplemente sin publicar sus nombres, si eso se puede personalizar con diferentes nombres.

Buena pregunta.

Puede que responda a esto más tarde, pero actualmente no tengo todos los detalles. Señalaré que he estado involucrado en parte del uso de los bots durante aproximadamente un mes o más y señalaré que no se debe considerar nada como definitivo. Además, si tiene ideas, sugerencias, recomendaciones, etc., por favor hágalas, pero no espere una respuesta/implementación ni nada más, ya que esta es una parte muy, muy dinámica del desarrollo de Discourse.

Si tiene derechos de administrador en un sitio de Discourse, consulte esta URL para obtener más información; allí es a donde fui primero después de ver su pregunta.

https:///admin/site_settings/category/discourse_ai


EDITAR

Publiqué capturas de pantalla de la configuración predeterminada actual del bot de Discourse AI en una publicación anterior para que todos puedan ver cuáles son, pero lo que es más importante, tener una referencia para poder seguir las conversaciones sobre los detalles de la configuración.


Para responder a su pregunta

image

2 Me gusta

Gracias, soy un administrador que configuró una clave API para esto, pero no tengo claves de Anthropic/Stability, solo una clave de OpenAI.

La configuración predeterminada dice que el único grupo permitido es el nivel de confianza n.º 4.

1 me gusta

Para tu información

No he usado el bot en este sitio en unas semanas, pero quería señalar esto ya que puede no ser obvio al principio.

El bot puede tener diferentes personalidades que se pueden seleccionar, pero la opción de selección no es tan obvia.

Si se hace clic en Forum Helper, en realidad es una lista desplegable.

¡Disfruta!


También cabe destacar que, dado que el bot es actualmente accesible a través de un mensaje privado y se puede invitar a otros usuarios a un mensaje privado, cuando dos o más personas reales y el bot están en el mismo MP, el bot responde a cada publicación, incluso si la publicación no iba dirigida a ellos.

2 Me gusta

¿Está eso limitado al nivel de confianza n.º 4 para este foro de soporte?

No soy administrador aquí, solo para mi propio sitio.

Hay este aviso publicado con eso:

Los mensajes del chatbot de IA son monitoreados regularmente por los moderadores.

Aún así, no parece funcionar, ya que el bot del sistema predeterminado dejó de funcionar cuando configuré el sitio en modo solo para personal. Muchas cosas están restringidas con eso, pero planeo relanzarlo el próximo mes.

Configuré una cuenta de Open A.I. vinculada con una cuenta de Microsoft, te dan $5 de crédito gratis por eso, pero si hay mucho tráfico, te facturan por ello.

Es interesante que no quieran el número de identificación fiscal para empresas en los EE. UU., pero sí para otros países. :face_with_monocle:

Obviamente, no puedo responder a eso basándome en la configuración de este sitio, ya que no tengo acceso, pero observaré que se configuró un grupo para pruebas tempranas, que es como fui incluido.

https://meta.discourse.org/g/ai-bot-testers?asc=true

Si miras mis ejemplos anteriores, verás que hay dos redacciones diferentes y, hasta donde yo sé, esa es la configuración
image

Para el sitio al que tengo acceso de administrador, no configuraremos los bots de IA. Para los sitios a los que tengo acceso para ejecutar bots de IA de Discourse, no tengo acceso de administrador. Tampoco planeo configurar un sitio de desarrollo y agregar una clave API de IA para probar esto, así que si te mantienes activo con lo que estás haciendo, podrás llevar el testigo en una semana aproximadamente. :wink:

No puedo ayudar con eso.

De acuerdo, buena información, gracias por tu ayuda.

1 me gusta