He estado intentando poner el resumen en un flujo de trabajo y he encontrado un par de cosas:
No hay razón para no tener un resumen desde la primera publicación, ya que el resumen simplemente evolucionará a medida que el tema aumente. Por supuesto, esas actualizaciones están limitadas por la configuración.
Cuando estás trabajando en un tema, el resumen se posiciona en la parte superior de la página, pero el usuario siempre será enviado al final (última publicación, última publicación leída). Por lo tanto, invariablemente, los usuarios nunca leerán el resumen. Es algo genial de tener, pero sospecho que nunca se verá, ya que el usuario nunca / no tendrá ninguna razón para desplazarse hasta la parte superior para ver lo que dice el resumen, incluso si es útil. ¿Podría el resumen posicionarse en la columna de la derecha debajo de la línea de tabla de contenido/fecha? ¿Para que siempre sea visible?
¿Excepto el costo y tener demasiada información duplicada al mismo tiempo ocupando espacio?
Seguramente un resumen añade más valor una vez que las cosas realmente han comenzado y tienes varios Posts al menos?
En cualquier caso, sospecho que puedes establecer tus umbrales como quieras aquí, y no necesitas ninguna acción de mi parte?
¿Estás seguro de que los lectores existentes se molestarán en leer el resumen? Noto que el resumen es probablemente más valioso para los nuevos lectores que verán el resumen primero y podrán usarlo como guía para leer más abajo?
Esta es una buena idea, siempre y cuando el ancho de la presentación sea lo suficientemente amplio como para que la lectura sea cómoda? ¿Eso podría ser un desafío?
Mi solución experimental sería aprovechar el Plugin de Diseños y crear un widget compatible que pueda aparecer a la derecha o a la izquierda de un Tema (de hecho, si añadimos soporte superior, ¡podemos ponerlo allí también en la ubicación original!).
Tenga en cuenta que hay otras formas de lidiar con esto:
Añadir un botón de mover arriba (hay un componente de tema). ¿Incluso podrías modificarlo para incluir una etiqueta que diga “ir al resumen”?
Lo añadiré a la hoja de ruta en cualquier caso, pero házmelo saber lo que piensas de lo anterior.
Estoy de acuerdo con el aspecto del costo, pero si alguna vez se usara como el ‘extracto alternativo’, se tendría que generar un resumen. No estoy seguro de haber logrado que funcionara actualizando la configuración. Quizás me perdí algo, volveré a mirar.
Muy buen punto… Supongo que el tiempo lo dirá. Pero si los usuarios se acostumbran al resumen, veo que con el tiempo le echarán un vistazo rápido. De hecho, si algunos usuarios están trabajando en varios temas, creo que es un buen recordatorio rápido de lo que ha sucedido. ¿Quizás en el futuro un usuario podría hacer clic para generar un resumen de lo que ha sucedido desde la última vez que estuvo en un tema en particular? (De nuevo, el costo lo permite en la llamada a la API)
Me gusta esta idea, sí. Mejor que el botón para saltar a la parte superior, ya que luego necesitas volver a donde estabas antes (que podría no ser la última publicación).
Excepto que acabo de tener un resumen creado que contenía detalles de una publicación interna de “Whisper”. ¿Hay alguna posibilidad de que estas publicaciones se excluyan de lo que se envía a OpenAI?
Gracias por esto.
Sin embargo, tengo una pregunta: ¿estás excluyendo todas las publicaciones de administrador? ¿Significa esto que es una buena práctica que un usuario administrador que publica tenga 2 cuentas separadas, una de administrador y otra para publicar e interactuar con la comunidad? En mi sitio, a menudo publico en temas y me gustaría que eso se incluyera en el resumen (soy administrador del sitio).
Gracias. He intentado instalar e iniciar este plugin, pero al intentar dejar un comentario en algunas publicaciones, devuelve un error HTTP 500. En production.log veo el mensaje:
StandardError (La longitud máxima de contexto de este modelo es de 4097 tokens, sin embargo, solicitaste 15682 tokens (15482 en tu prompt; 200 para la finalización). Por favor, reduce la longitud de tu prompt o de la finalización).
Tranquilo, … necesitas reducir la cantidad que estás resumiendo usando la configuración.
No creo que esto sea un error, simplemente eres demasiado codicioso
Necesitas ajustar la configuración para que coincida con tu configuración. Hay un límite de publicación y un límite de personaje que puedes controlar. Un token suele ser de 4 caracteres.
Es posible que los valores predeterminados sean un poco demasiado generosos … pero están configurados para aproximarse al límite de tokens, por lo que esto es un poco extraño.
@merefield pregunta rápida sobre el modelo de lenguaje que estás utilizando para esto. ¿Por qué no decidiste habilitar gpt-3.5-turbo?
Hemos estado probando nosotros mismos el uso de gpt-3.5 para resúmenes de transcripciones de correo electrónico y teléfono, y hace un muy buen trabajo. El mensaje de correo electrónico / la transcripción en sí la ponemos en el contenido del usuario.
Para la transcripción telefónica, por ejemplo, agregamos lo siguiente en el contenido del ‘sistema’:
Identifica si esta transcripción es una conversación telefónica o si el llamante está dejando un mensaje de voz.
Si es una conversación telefónica, entonces debes proporcionar un resumen de la conversación telefónica y luego crear las siguientes secciones con elementos con viñetas:
Acuerdos alcanzados
Preguntas planteadas
Posibles inconsistencias / preocupaciones
Puntuación de sentimiento: (para cada participante)
Revisión del líder de equipo: (Por favor, marca si esta llamada debe ser revisada por un líder de equipo)
Si es un mensaje de voz, entonces debes proporcionar un título ‘Mensaje de voz dejado [para]’ y en una nueva línea resumir el mensaje de voz con una oración.
Porque estaba optimizado para chat y en ese momento OpenAI todavía recomendaba Davinci 003 para la resumen. Estaré encantado de revisar esto cuando el material de GPT-4 esté más disponible.
Tenga en cuenta que ChatGPT y Davinci-003 son de la misma generación, por lo que no estoy seguro de que haya mucha diferencia entre ellos en cuanto a resultados.
Aquí hay algo: dos veces en la última semana he leído algún tipo de contribución, para encontrar al final una divulgación de que es de un LLM. Ambas veces me sentí mal: había invertido en comprender el sentido de algo pensando que había alguien detrás de las palabras.
Por lo tanto, recomendaría (¡enérgicamente!) que la divulgación viniera antes del texto.
Gracias por tu respuesta. Entiendo que la funcionalidad podría estar en el ámbito en el futuro.
Pero le acabo de preguntar a ChatGPT sobre el contenido de un enlace y respondió (¡así que está funcionando!) y todos podrían usar esa forma mencionando y luego editando/eliminando publicaciones.
