ਜਨਤਕ ਵਰਤੋਂ ਵਾਲੀਆਂ LLM ਐਪਲੀਕੇਸ਼ਨਾਂ ਬ੍ਰਾਂਡਾਂ ਲਈ ਸਾਖ ਅਤੇ ਵਿੱਤੀ ਜੋਖਮ ਪੈਦਾ ਕਰ ਸਕਦੀਆਂ ਹਨ.
ਅਸੀਂ LLM ਜੇਲ੍ਹਬ੍ਰੇਕਾਂ ਅਤੇ LLM ਦੇ ਹੋਰ ਅਣਚਾਹੇ ਵਿਹਾਰ ਤੋਂ ਹੋਣ ਵਾਲੇ ਨੁਕਸਾਨ ਨੂੰ ਘਟਾਉਣ ਲਈ ਕਈ ਪਰਤਾਂ ਵਾਲੇ ਵਰਗੀਕਰਨ ਫਿਲਟਰ ਵਰਤਦੇ ਹਾਂ.
ਅਸੀਂ ਇਸਨੂੰ ਇੱਕ ਵੱਡੇ ਪੈਮਾਨੇ ਦੀ ਪ੍ਰੋਡਕਸ਼ਨ ਐਪਲੀਕੇਸ਼ਨ ਵਿੱਚ ਲਾਗੂ ਕੀਤਾ ਹੈ, ਜਿਸ ਨੂੰ ਹਰ ਰੋਜ਼ 40,000 ਅਤੇ ਲਗਾਤਾਰ ਵਧ ਰਹੇ ਸੁਨੇਹੇ ਮਿਲਦੇ ਹਨ.
ਪਿਛਲੇ ਸਾਲ ਦੌਰਾਨ, ਅਸੀਂ ਇੱਕ ਪ੍ਰਮੁੱਖ ਗੇਮ ਡਿਵੈਲਪਰ ਨਾਲ ਮਿਲ ਕੇ ਇੱਕ GenAI ਚੈਟਬੋਟ ਲਾਗੂ ਕੀਤਾ, ਜੋ ਬੱਚਿਆਂ ਸਮੇਤ ਖਿਡਾਰੀਆਂ ਤੋਂ ਹਰ ਰੋਜ਼ ਲਗਭਗ 40,000 ਸੁਨੇਹੇ ਸੰਭਾਲਦਾ ਹੈ. ਰਫ਼ਤਾਰ, ਸ਼ੁੱਧਤਾ, ਸੁਰੱਖਿਆ ਅਤੇ ਮਨੋਰੰਜਨ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਲਾਜ਼ਮੀ ਹੈ:
ਆਪਣੇ ਬ੍ਰਾਂਡ ਦੀ ਨੁਮਾਇੰਦਗੀ ਲਈ ਚੈਟਬੋਟ ਬਣਾਉਂਦੇ ਸਮੇਂ ਸਿਰਫ਼ ਉਸਦਾ ਸੁਰੱਖਿਅਤ ਹੋਣਾ ਕਾਫ਼ੀ ਨਹੀਂ—ਉਸਦੀ ਆਵਾਜ਼ ਵੀ ਪ੍ਰਮਾਣਿਕ ਤੌਰ ’ਤੇ ਤੁਹਾਡੇ ਵਰਗੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ.
ਗੇਮ ਕੰਪਨੀ ਲਈ ਇਸਦਾ ਮਤਲਬ ਸੁਰੱਖਿਆ ਨੂੰ ਮਨੋਰੰਜਨ ਅਤੇ ਵਰਤੋਂਕਾਰਾਂ ਦੇ ਉਤਸ਼ਾਹ ਨਾਲ ਜੋੜਨਾ ਹੈ—ਖ਼ਾਸ ਕਰਕੇ ਛੋਟੀ ਉਮਰ ਦੇ ਦਰਸ਼ਕਾਂ ਲਈ.
ਆਧੁਨਿਕ GenAI ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਚਲਾਉਣ ਵਾਲੇ LLM ਬਹੁਤ ਲਚਕੀਲੇ ਹਨ, ਇਸੇ ਲਈ ਉਹ ਅਨੇਕ ਸਮੱਸਿਆਵਾਂ ਉੱਤੇ ਇੰਨੇ ਵਧੀਆ ਢੰਗ ਨਾਲ ਲਾਗੂ ਹੁੰਦੇ ਹਨ, ਪਰ ਉਨ੍ਹਾਂ ਉੱਤੇ ਪਾਬੰਦੀਆਂ ਵੀ ਘੱਟ ਹੁੰਦੀਆਂ ਹਨ. ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਉਹ ਅਕਸਰ ਤੈਅ ਹੱਦਾਂ ਤੋਂ ਭਟਕ ਕੇ ਕਈ ਕਿਸਮਾਂ ਦਾ ਲਿਖਤੀ ਮਾਦਾ ਵਾਪਸ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਵਿੱਚੋਂ ਕੁਝ ਅਣਉਚਿਤ ਹੋ ਸਕਦਾ ਹੈ.
ਕਿਸੇ LLM ਨੂੰ ਸਿੱਧਾ ਜਨਤਾ ਲਈ ਉਪਲਬਧ ਕਰਵਾਉਣ ਨਾਲ ਅਚਾਨਕ ਵਿਹਾਰ ਹੋਣਾ ਲਗਭਗ ਨਿਸ਼ਚਿਤ ਹੈ ਅਤੇ ਢੁਕਵੇਂ ਬਚਾਅ ਉਪਾਵਾਂ ਤੋਂ ਬਿਨਾਂ ਇਹ ਹੇਠਲੇ ਜੋਖਮ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ:
“ਜੇਲ੍ਹਬ੍ਰੇਕ”, ਜਿਨ੍ਹਾਂ ਰਾਹੀਂ ਵਰਤੋਂਕਾਰ ਜਾਣਬੁੱਝ ਕੇ ਚੈਟਬੋਟ ਨਾਲ ਹਾਨੀਕਾਰਕ ਜਾਂ ਮਨਾਹੀ ਵਾਲੀ ਸਮੱਗਰੀ ਤਿਆਰ ਕਰਵਾਉਂਦੇ ਹਨ (ਇੱਕ ਦਿਲਚਸਪ ਗੱਲ: ਕੋਈ ਵੀ ਇਸ ਵੈੱਬਸਾਈਟ ਉੱਤੇ ਜਾ ਕੇ ਮਜ਼ੇਦਾਰ ਗੇਮ ਰਾਹੀਂ LLM ਜੇਲ੍ਹਬ੍ਰੇਕ ਕਰਨਾ ਸਮਝ ਸਕਦਾ ਹੈ…); ਜਾਂ
ਅਣਜਾਣੇ ਵਿੱਚ ਘਟੀਆ, ਅਪਮਾਨਜਨਕ ਜਾਂ ਖ਼ਤਰਨਾਕ ਸਮੱਗਰੀ ਦੇਣਾ. ਕਈ ਮਾਮਲਿਆਂ ਵਿੱਚ ਇਸ ਨਾਲ ਵਰਤੋਂਕਾਰ ਦੀ ਭਲਾਈ ਨੂੰ ਖ਼ਤਰਾ ਹੋ ਸਕਦਾ ਹੈ ਜਾਂ ਐਪ ਪ੍ਰਦਾਤਾ ਨੂੰ ਵਿੱਤੀ ਨੁਕਸਾਨ ਅਤੇ ਬ੍ਰਾਂਡ ਦੀ ਸਾਖ ਨੂੰ ਠੇਸ ਪਹੁੰਚ ਸਕਦੀ ਹੈ.
LLM ਦੀ ਅਣਚਾਹੀ ਵਰਤੋਂ ਬਾਰੇ ਖ਼ਬਰਾਂ ਦੀਆਂ ਸੁਰਖੀਆਂ:
ਇਹ ਘਟਨਾਵਾਂ ਦਰਸਾਉਂਦੀਆਂ ਹਨ ਕਿ GenAI ਸਿਸਟਮਾਂ ਵਿੱਚ ਸੁਰੱਖਿਆ ਬਣਾਉਣਾ ਅਤੇ ਉਸਨੂੰ ਕਾਇਮ ਰੱਖਣਾ ਕੋਈ ਵਿਕਲਪ ਨਹੀਂ ਹੈ. ਇਹ ਖ਼ਾਸ ਕਰਕੇ ਉਦੋਂ ਸੱਚ ਹੈ ਜਦੋਂ ਛੋਟੇ ਬੱਚੇ ਸ਼ਾਮਲ ਹੋਣ; ਤੁਸੀਂ ਸਿਰਫ਼ ਬੇਦਾਅਵਾ ਸੂਚਨਾਵਾਂ ਉੱਤੇ ਨਿਰਭਰ ਨਹੀਂ ਰਹਿ ਸਕਦੇ—ਸਮੱਗਰੀ ਨੂੰ ਢੁਕਵਾਂ ਰੱਖਣ ਲਈ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ ਹੱਦਾਂ ਲਾਜ਼ਮੀ ਹਨ.
ਗਾਹਕਾਂ ਲਈ ਬਣਾਏ ਸਾਡੇ RAG (ਪ੍ਰਾਪਤੀ-ਸਹਾਇਕ ਉਤਪਾਦਨ) ਸਿਸਟਮਾਂ ਵਾਂਗ, ਅਸੀਂ ਉੱਚ ਕਾਰਗੁਜ਼ਾਰੀ ਕਾਇਮ ਰੱਖਦਿਆਂ ਜੇਲ੍ਹਬ੍ਰੇਕ ਦੇ ਜੋਖਮ ਘਟਾਉਣ ਲਈ ਕਈ AI ਹਿੱਸੇ ਵਰਤਦੇ ਹਾਂ.
ਸਾਡੇ ਸਿਸਟਮ ਦੀ ਬਣਤਰ ਦਾ ਸਰਲ ਚਿੱਤਰ
ਸਿਸਟਮ ਦੀ ਸੁਰੱਖਿਆ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਅਸੀਂ ਇਨਪੁੱਟ ਅਤੇ ਆਉਟਪੁੱਟ ਦੋਵਾਂ ਉੱਤੇ LLM ਵਰਗੀਕਾਰਕ ਵਰਤਦੇ ਹਾਂ:
ਇਨਪੁੱਟ ਵਰਗੀਕਰਨ (ਇੱਕੋ ਸਮੇਂ ਚੱਲਦਾ ਹੈ)
ਅਸੀਂ ਵਰਤੋਂਕਾਰਾਂ ਦੇ ਸਵਾਲਾਂ ਨੂੰ ਲੇਬਲ ਕਰਨ ਲਈ LLM ਸਟਰੱਕਚਰਡ ਆਉਟਪੁੱਟਸ ਦੇ ਨਾਲ Pydantic ਸਕੀਮਾਂ ਵਰਤੀਆਂ, ਜਿਵੇਂ SAFE, SUSPICIOUS, CHILD_HARM_RISK, VIOLENT ਆਦਿ. ਇਸ ਵਿੱਚ ਜੇਲ੍ਹਬ੍ਰੇਕ ਜਾਂ ਮਨਾਹੀ ਵਾਲੇ ਵਿਹਾਰ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਸੰਕੇਤਕ ਵੀ ਸ਼ਾਮਲ ਸਨ.
ਵੱਖ-ਵੱਖ ਵਿਸ਼ਿਆਂ ਲਈ ਕਈ ਵਰਗੀਕਾਰਕਾਂ ਨੇ ਇੱਕੋ ਵੱਡੇ “ਸਭ ਕੁਝ ਫੜਨ ਵਾਲੇ” ਵਰਗੀਕਾਰਕ ਨਾਲੋਂ ਕਾਫ਼ੀ ਬਿਹਤਰ ਕਾਰਗੁਜ਼ਾਰੀ ਦਿੱਤੀ.
ਵਿਸਤ੍ਰਿਤ ਫਿਊ-ਸ਼ਾਟ ਉਦਾਹਰਨਾਂ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਬਹੁਤ ਜ਼ਰੂਰੀ ਸਨ ਕਿ ਵਰਗੀਕਾਰਕ “ਇਹ ਕਿਰਦਾਰ ਮੈਨੂੰ ਵਾਰ-ਵਾਰ ਮਾਰ ਦਿੰਦਾ ਹੈ” (ਗੇਮ ਦੇ ਸੰਦਰਭ ਵਿੱਚ) ਅਤੇ “ਮੇਰੇ ਮਾਤਾ-ਪਿਤਾ ਮੈਨੂੰ ਸੱਟ ਮਾਰ ਰਹੇ ਹਨ” (ਬੱਚੇ ਨੂੰ ਨੁਕਸਾਨ ਦਾ ਸੰਕੇਤ) ਵਿਚਕਾਰ ਫ਼ਰਕ ਕਰ ਸਕਣ.
ਗਾਹਕ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀਆਂ ਮਾਹਰ ਭਰੋਸਾ ਤੇ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਨਾਲ ਨੇੜਲੇ ਸਹਿਯੋਗ ਨੇ ਯਕੀਨੀ ਬਣਾਇਆ ਕਿ ਸਾਡੇ ਵਰਗੀਕਾਰਕ ਅਸਲ ਜੀਵਨ ਵਿੱਚ ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਸੁਨੇਹਿਆਂ ਬਾਰੇ ਉਨ੍ਹਾਂ ਦੇ ਨਿਰਣੇ ਨੂੰ ਦਰਸਾਉਣ.
ਜਵਾਬ ਤਿਆਰ ਕਰਨਾ
ਜੇ ਇਨਪੁੱਟ ਨੂੰ ਸੁਰੱਖਿਅਤ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਮੁੱਖ LLM ਜਵਾਬ ਤਿਆਰ ਕਰਦਾ ਹੈ.
ਨਹੀਂ ਤਾਂ ਸੁਨੇਹੇ ਨੂੰ ਅਣਡਿੱਠਾ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ (ਜੇਲ੍ਹਬ੍ਰੇਕ ਲਈ) ਜਾਂ ਕਿਸੇ ਮਨੁੱਖ ਕੋਲ ਭੇਜਿਆ ਜਾ ਸਕਦਾ ਹੈ (ਜੇ ਸਵਾਲ ਸੁਰੱਖਿਆ ਸਮੱਸਿਆ ਦਾ ਸੰਕੇਤ ਦੇਵੇ).
ਆਉਟਪੁੱਟ ਵਰਗੀਕਰਨ
ਸਾਡੀ ਐਪਲੀਕੇਸ਼ਨ ਤੋਂ ਬਾਹਰ ਭੇਜਣ ਤੋਂ ਪਹਿਲਾਂ ਅਸੀਂ ਮਾਡਲ ਦੇ ਜਵਾਬ ਦਾ ਵਰਗੀਕਰਨ ਕਰਦੇ ਹਾਂ.
ਕਿਉਂਕਿ ਕੁਝ ਜਵਾਬ ਇੰਟਰਨੈੱਟ ਤੋਂ ਇਕੱਤਰ ਕੀਤੇ ਡੇਟਾ ਉੱਤੇ RAG ਤਕਨੀਕਾਂ ਵਰਤ ਸਕਦੇ ਹਨ, ਇਹ ਕਦਮ ਸਾਨੂੰ ਡੇਟਾ ਵਿੱਚ ਜ਼ਹਿਰੀਲੀ ਜਾਣਕਾਰੀ ਮਿਲਾਉਣ ਤੋਂ ਬਚਾਉਂਦਾ ਹੈ.
ਜੇ ਇਸ ਵਿੱਚ ਮਨਾਹੀ ਵਾਲੀ ਸਮੱਗਰੀ ਹੋਵੇ, ਤਾਂ ਸਿਸਟਮ ਦਖ਼ਲ ਦੇ ਕੇ ਉਸਦੀ ਥਾਂ ਇੱਕ ਆਮ ਸੁਨੇਹਾ ਦੇ ਦਿੰਦਾ ਹੈ. ਅਮਲ ਵਿੱਚ ਅਜਿਹਾ ਬਹੁਤ ਘੱਟ ਹੋਇਆ ਹੈ, ਪਰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਇੱਕ ਵਾਧੂ ਸਾਵਧਾਨੀ ਵਾਲੀ ਪਰਤ ਹੈ ਕਿ ਏਜੰਟ ਦਾ ਵਿਹਾਰ ਢੁਕਵਾਂ ਰਹੇ.
ਰਫ਼ਤਾਰ ਅਤੇ ਕਿਫ਼ਾਇਤੀ ਲਾਗਤ ਕਾਇਮ ਰੱਖਣ ਲਈ:
ਅਸੀਂ ਆਮ ਤੌਰ ਉੱਤੇ ਵਰਤੇ ਜਾਂਦੇ ਪ੍ਰੌਂਪਟ ਅਤੇ ਅਧੂਰੇ ਸੰਵਾਦਾਂ ਦੇ ਨਾਲ ਧਿਆਨ ਨਾਲ ਚੁਣੀਆਂ ਫਿਊ-ਸ਼ਾਟ ਉਦਾਹਰਨਾਂ ਦਾ ਸੰਗ੍ਰਹਿ ਸੰਭਾਲਦੇ ਹਾਂ.
ਇਹ ਕੈਸ਼ਿੰਗ ਸਾਨੂੰ ਹਰ ਵਾਰ ਸੰਦਰਭ ਮੁੜ ਬਣਾਏ ਬਿਨਾਂ LLM ਵਰਗੀਕਾਰਕਾਂ ਨੂੰ ਤੇਜ਼ੀ ਅਤੇ ਘੱਟ ਲਾਗਤ ਨਾਲ ਲਾਗੂ ਕਰਨ ਦਿੰਦੀ ਹੈ.
Anthropic ਦੇ ਇੱਕ ਹਾਲੀਆ ਅਧਿਐਨ ਵਿੱਚ ਸੰਵਿਧਾਨਕ ਵਰਗੀਕਾਰਕਾਂ ਦਾ ਵਰਣਨ ਕੀਤਾ ਗਿਆ—ਇੱਕ ਅਜਿਹਾ ਸਿਸਟਮ ਜੋ ਖ਼ਤਰਨਾਕ ਜਾਂ ਅਸੁਰੱਖਿਅਤ ਬੇਨਤੀਆਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ “ਸੰਵਿਧਾਨਕ” ਨਿਯਮਾਂ ਰਾਹੀਂ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਵਾਧੂ ਵਰਗੀਕਾਰਕਾਂ ਉੱਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ. ਉਨ੍ਹਾਂ ਨੇ ਦੱਸਿਆ:
ਮਨੁੱਖਾਂ ਵੱਲੋਂ ਹਜ਼ਾਰਾਂ ਘੰਟਿਆਂ ਦੀ ਰੈਡ ਟੀਮਿੰਗ ਦੇ ਬਾਵਜੂਦ ਬਹੁਤ ਮਜ਼ਬੂਤ ਸੁਰੱਖਿਆ.
ਬੇਲੋੜੇ ਇਨਕਾਰ ਦੀ ਬਹੁਤ ਘੱਟ ਦਰ ਅਤੇ ਕੰਪਿਊਟਿੰਗ ਸਰੋਤਾਂ ਉੱਤੇ ਦਰਮਿਆਨਾ ਵਾਧੂ ਬੋਝ.
ਅਸੀਂ ਇੱਕ ਅਜਿਹਾ ਭਵਿੱਖ ਦੇਖਦੇ ਹਾਂ ਜਿੱਥੇ ਇਹ ਸੰਵਿਧਾਨਕ ਪਹੁੰਚਾਂ ਰਵਾਇਤੀ ਵਰਗੀਕਰਨ ਪਰਤਾਂ ਦੀ ਪੂਰਕ ਬਣ ਸਕਦੀਆਂ ਹਨ ਜਾਂ ਉਨ੍ਹਾਂ ਦੀ ਥਾਂ ਵੀ ਲੈ ਸਕਦੀਆਂ ਹਨ—ਅਤੇ ਬਦਲਦੀਆਂ ਜੇਲ੍ਹਬ੍ਰੇਕ ਰਣਨੀਤੀਆਂ ਵਿਰੁੱਧ ਵਧੇਰੇ ਵਿਆਪਕ ਰੱਖਿਆ ਦੇ ਸਕਦੀਆਂ ਹਨ.
ਸਮਾਨਾਂਤਰ ਅਤੇ ਹਲਕੇ ਫਿਲਟਰ
ਵਰਗੀਕਰਨ ਪਰਤਾਂ ਖ਼ਤਰਨਾਕ ਸਵਾਲਾਂ ਨੂੰ ਉਤਪਾਦਕ ਕੇਂਦਰ ਤੱਕ ਪਹੁੰਚਣ ਤੋਂ ਰੋਕਦੀਆਂ ਹਨ ਅਤੇ ਯਕੀਨੀ ਬਣਾਉਂਦੀਆਂ ਹਨ ਕਿ ਘਟੀਆ ਆਉਟਪੁੱਟ ਕਦੇ ਨਾ ਭੇਜੇ ਜਾਣ.
ਵਰਤੋਂਕਾਰ ਅਨੁਭਵ ਮਹੱਤਵਪੂਰਨ ਹੈ
ਮਨੋਰੰਜਕ, ਕਹਾਣੀ ਦੇ ਪ੍ਰਸੰਗ ਨਾਲ ਜੁੜੀਆਂ ਚੇਤਾਵਨੀਆਂ ਅਤੇ ਖੇਡ-ਭਾਵਨਾ ਵਾਲੇ ਇਨਕਾਰ ਵਰਤਣ ਨਾਲ ਵਰਤੋਂਕਾਰ ਸਿਸਟਮ ਦੀਆਂ ਪਾਬੰਦੀਆਂ ਨੂੰ ਵਧੇਰੇ ਆਸਾਨੀ ਨਾਲ ਸਵੀਕਾਰਦੇ ਹਨ.
ਜਾਂਚ ਅਤੇ ਨਿਗਰਾਨੀ ਵਿੱਚ ਕੋਈ ਕਸਰ ਨਾ ਛੱਡੋ
ਨਿਯਮਿਤ ਰੈਡ ਟੀਮਿੰਗ ਅਤੇ ਖਿਡਾਰੀਆਂ ਦੇ ਵਿਹਾਰ ਦੀ ਲਗਾਤਾਰ ਨਿਗਰਾਨੀ, ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਵਿਆਪਕ ਖਿਡਾਰੀ ਭਾਈਚਾਰੇ ਸਾਹਮਣੇ ਆਉਣ ਤੋਂ ਪਹਿਲਾਂ ਪਛਾਣਨ ਵਿੱਚ ਮਦਦ ਕਰੇਗੀ. ਫਿਰ ਇਨ੍ਹਾਂ ਨੂੰ ਫਿਊ-ਸ਼ਾਟ ਵਰਗੀਕਾਰਕ ਪ੍ਰੌਂਪਟਾਂ ਵਿੱਚ ਮੁੜ ਸ਼ਾਮਲ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਤਾਂ ਜੋ ਭਵਿੱਖ ਵਿੱਚ ਇਨ੍ਹਾਂ ਦੀ ਵਰਤੋਂ ਰੋਕੀ ਜਾ ਸਕੇ. ਫ਼ਿਲਹਾਲ ਇਹ ਹੱਥੀਂ ਕੀਤੀ ਜਾਣ ਵਾਲੀ ਪ੍ਰਕਿਰਿਆ ਹੈ, ਪਰ ਇਸਨੂੰ ਸਵੈਚਾਲਿਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ.
ਭਾਵੇਂ ਤੁਸੀਂ ਗੇਮ ਕੰਪਨੀ ਹੋ, ਬੈਂਕ ਹੋ ਜਾਂ ਸਰਕਾਰੀ ਵਿਭਾਗ, ਜੇ ਤੁਸੀਂ ਵੱਡੇ ਪੈਮਾਨੇ ਉੱਤੇ ਗਾਹਕ ਸੇਵਾ ਚੈਟਬੋਟ ਲਾਗੂ ਕਰਨਾ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਵਰਤੋਂਕਾਰ-ਕੇਂਦਰਿਤ ਡਿਜ਼ਾਈਨ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਦੋਵਾਂ ਨੂੰ ਟੀਚਾ ਬਣਾਉਣਾ ਪਵੇਗਾ.
ਅਸੀਂ ਉਨ੍ਹਾਂ ਸੰਗਠਨਾਂ ਅਤੇ ਬ੍ਰਾਂਡਾਂ ਲਈ ਗਾਹਕ-ਮੁਖੀ ਹੱਲ ਬਣਾਉਂਦੇ ਹਾਂ ਜਿੱਥੇ:
ਸੁਰੱਖਿਆ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਹੈ—ਅਜਿਹੇ ਚੈਟਬੋਟ ਜੋ ਵਰਤੋਂਕਾਰਾਂ ਨੂੰ ਲਾਭ ਦਿੰਦੇ ਹਨ ਅਤੇ ਹਾਨੀਕਾਰਕ ਸਮੱਗਰੀ ਤੋਂ ਉਨ੍ਹਾਂ ਦੀ ਸਖ਼ਤੀ ਨਾਲ ਰੱਖਿਆ ਕਰਦੇ ਹਨ.
ਸਾਖ ਦੀ ਰੱਖਿਆ ਕੀਤੀ ਜਾਂਦੀ ਹੈ—ਅਸੀਂ ਸੁਰੱਖਿਆ ਦੀਆਂ ਕਈ ਪਰਤਾਂ ਤਿਆਰ ਕਰਦੇ ਹਾਂ, ਜੋ ਵਰਤੋਂਕਾਰਾਂ ਵੱਲੋਂ ਸਿਸਟਮ ਨੂੰ ਉਸਦੀਆਂ ਹੱਦਾਂ ਤੋਂ ਅੱਗੇ ਧੱਕਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਦੇ ਬਾਵਜੂਦ ਬ੍ਰਾਂਡ ਦੀ ਸਾਖ ਬਰਕਰਾਰ ਰੱਖਦੀਆਂ ਹਨ.
ਨਿਯਮ ਤੁਹਾਡੇ ਵਿਕਲਪ ਸੀਮਤ ਕਰਦੇ ਹਨ—ਅਸੀਂ ਪਾਲਣਾ ਦੇ ਨਵੀਨਤਮ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਨਾਲ ਅੱਪ-ਟੂ-ਡੇਟ ਰਹਿੰਦੇ ਹਾਂ, ਤਾਂ ਜੋ ਤੁਸੀਂ ਆਪਣੀ ਐਪਲੀਕੇਸ਼ਨ ਦੇ ਜੇਲ੍ਹਬ੍ਰੇਕ ਹੋਣ ਦੀ ਚਿੰਤਾ ਕੀਤੇ ਬਿਨਾਂ ਹੱਲਾਂ ਨੂੰ ਵੱਡੇ ਪੈਮਾਨੇ ਉੱਤੇ ਲਾਗੂ ਕਰ ਸਕੋ.