私は、アロマのOEM事業を行うBotanicallyを運営している。
先日、Botanicalltのホームページからお問合せ頂くお客さんを支援する目的で以下のようなAIを作った。

AIによる問い合わせ支援
https://kumahiyo.com/contact-support-ai/

しかしこのAIは、お客さんが混乱するような内容を回答してしまう等、
この段階では運用に耐えうるものではなかった。
そこでAIの役割を少し変更し、今までのようにAIが支援内容を生成して直接その内容を伝えるのではなく、
お客さんの問い合わせ内容が、どういった種類の問い合わせなのか(= どういったカテゴリに属するのか)を判別してもらうようにし、それぞれのカテゴリに併せて、私たちが決めた内容をお客さんにお伝えするようにした。

つまり、支援内容自体を生成してしまうと、その内容がちんぷんかんぷんだったりして使えないため、
その手前の問い合わせ内容の判別だけをしてもらい、その後は人間が行うことで上手く機能するようにした。
そうすることでAIの判別が上手くできないような時でも、
支援をせずにそのままお問合せを完了することで、混乱させることもご迷惑をおかけすることもなくなった。

AIはできることとできないことが明確にわかれてくるため、こういった工夫ができるかどうかという点はとても大事だと思う。

しばらくこれで運用して様子を見ていきたいと思う。
実際に実装したページは以下。

お問い合わせ | ボタニカリー
https://botanically.co.jp/enquiry/