タスク設定
タスクの割当方法や抜取受入率など、タスクに関する設定が可能です。
検査回数
検査フェーズを何段階にするか指定します。
検査回数が0
検査回数が0の場合は、検査フェーズはありません。教師付けフェーズのタスクを提出(次のフェーズに遷移)すると、受入フェーズになります。
アノテーションチーム内でアノテーションの品質まで確認する運用に適しています。
検査回数が1
検査回数が1の場合は、検査フェーズが1段階あります。教師付けフェーズのタスクを提出すると、検査フェーズになります。さらに検査フェーズのタスクを合格に(次のフェーズに遷移)すると、受入フェーズになります。
以下のような運用に適しています。
- アノテーションチームは、検査フェーズでアノテーションの品質を確認する
- アノテーションデータ利用者(AI開発者など)は、受入フェーズで品質の最終確認を行う
検査回数が2
検査回数が2の場合は、検査フェーズが2段階あります。教師付けフェーズのタスクを提出すると、1段階目の検査フェーズになります。1段階目の検査フェーズを合格にすると、2段階目の検査フェーズになります。2段階目の検査フェーズのタスクを合格にすると、受入フェーズになります。
以下のような運用に適しています。
- アノテーションチームは、2段階の検査フェーズを実施することで、アノテーションの品質をダブルチェックする
- アノテーションデータ利用者(AI開発者など)は、受入フェーズで品質の最終確認を行う
検査フェーズが何段階目かは、タスク履歴画面で確認できます。
タスク一覧画面では確認できません。1段階目の検査フェーズも2段階目の検査フェーズも、フェーズには「検査」としか表示されないためです。
タスクの割当方法
アノテータにタスクを割り当てる方法を指定します。タスクの割当方法によって、タスク一覧画面でタスクを作業するときの操作方法が異なります。詳細は以下の表を参照してください。
タスクの割当方法 | アノテーターロールのメンバーがタスクを作業するときの操作 | チェッカーロールのメンバーがタスクを作業するときの操作 |
---|---|---|
ランダム割当 | ・ 「教師付けタスクを取得」ボタンを押す ・ 「検査タスクを取得」ボタンを押す | ・ 「教師付けタスクを取得」ボタンを押す ・ 「検査タスクを取得」ボタンを押す ・ 「受入タスクを取得」ボタンを押す |
選択割当 | ・タスクを選択して「未割当タスクを取得」ボタンを押す。 | ・タスクを選択して「未割当タスクを取得」ボタンを押す。 |
ランダム割当と選択割当 | ・ 「教師付けタスクを取得」ボタンを押す ・ 「検査タスクを取得」ボタンを押す ・タスクを選択して「未割当タスクを取得」ボタンを押す | ・ 「教師付けタスクを取得」ボタンを押す ・ 「検査タスクを取得」ボタンを押す ・ 「受入タスクを取得」ボタンを押す ・タスクを選択して「未割当タスクを取得」ボタンを押す |
タスクプロパティ割当 | ・ 「教師付けタスクを取得」ボタンを押す ・ 「検査タスクを取得」ボタンを押す | ・ 「教師付けタスクを取得」ボタンを押す ・ 「検査タスクを取得」ボタンを押す ・ 「受入タスクを取得」ボタンを押す |
カスタム割当 | ・ 「教師付けタスクを取得」ボタンを押す ・ 「検査タスクを取得」ボタンを押す | ・ 「教師付けタスクを取得」ボタンを押す ・ 「検査タスクを取得」ボタンを押す ・ 「受入タスクを取得」ボタンを押す |
※ 「検査タスクを取得」ボタンは、「検査回数」が1以上の場合に表示されます
ランダム割当
ランダムにタスクが割り当てられます。たとえばタスク一覧画面の「教師付けタスクを取得」ボタンを押すと、教師付フェーズのタスクがランダムに割り当てられます。
タスクをランダムに割り当てることで、アノテーターが特定のタスク(たとえば簡単なタスク)のみ作業することを防ぎます。また、担当者の組み合わせを固定化しないことにより、アノテーションルールの解釈違いを発見することも期待できます。
選択割当
タスクは自動で割り当てられません。アノテーション作業する場合は、タスク一覧画面でタスクを選択して「未割当タスクを取得」ボタンを押します。
「タスクAを作業したら、次にタスクBを作業する」など、作業するタスクの順番が決まっている場合に「選択割当」は有用です。
ランダム割当と選択割当
ランダム割当と選択割当の両機能を使用する方式です。
タスクプロパティ割当
設定されたタスクのプロパティの並び順に従い、タスクが割り当てられます。
指定できるタスクのプロパティは以下の3つです。
- タスクID(
task_id
) - タスクの最終更新日時(
updated_datetime
) - メタデータ(
metadata.{key}
)
「メタデータ」を指定するには、事前にタスクにメタデータを付与する必要があります。
並び順には「昇順」か「降順」を選択します。
タスクがいくつかのグループに分かれていて、グループごとに作業の優先順位が決まっている場合に、「タスクプロパティ(メタデータ)割当」は有用です。グループごとの作業の優先順位をタスクのメタデータで表すことで、作業の優先順位を柔軟に設定することができます。
カスタム割当
タスク割当プラグインに設定されたタスク割り当てアルゴリズムに従い、タスクが割り当てられます。
Annofabサポート窓口による事前設定が行われていない場合、この項目は表示されません。
また、プロジェクト設定画面でカスタム割当プラグイン が設定されていないと、「カスタム割当」は選択できません。
メンバー1人あたりタスクの上限
1人のメンバーが担当できるタスクの上限を指定します。適切な上限値を指定することで、「特定のメンバーが大量のタスクを担当して、他メンバーが担当するタスクがない」というようなことを防ぎます。
「メンバー1人あたりタスクの上限」に影響されないケース
以下のケースでは、「メンバー1人あたりタスクの上限」に影響されません。
- 「プロジェクトオーナー」ロールを持つメンバーがタスクを担当する
- タスク一覧の「担当者を変更」ボタンで、タスクの担当者を変更する
未着手/作業中/休憩中
担当できる「未着手」、「作業中」、または「休憩中」状態のタスクの上限です。
保留分
担当できる「保留中」状態のタスクの上限です。
再提出されたタスクの検査/受入担当者
未割当て
再提出されたタスクの検査/受入フェーズの担当者が、未割当になります。
未割り当てすることで、以前の担当者(下図の例ではBob)とは異なるメンバーが検査/受入フェーズを担当する可能性があります。複数人で検査/受入フェーズを担当することで、指摘漏れや指摘間違いの発見につながります。
できるだけ、以前の担当者に割当
再提出されたタスクの検査/受入フェーズの担当者が、以前の担当者(下図の例ではBob)になります。
この場合は、検査/受入フェーズの担当者は指摘内容を把握しているため、他のメンバーが2回目以降の検査/受入フェーズを担当するときよりも、検査/受入フェーズの作業時間が短くなります。「複数メンバーが検査/受入フェーズを担当することで得られる品質」よりも、「検査/受入フェーズの生産性」の方が優先されるときに、この設定は有用です。
「以前の担当者」が、差し戻した時点のフェーズより過去のフェーズを担当していた場合は、未割り当てになります。
たとえば上図の例で、Bobが教師付けフェーズを担当していた場合、1回目の受入フェーズをBobが担当していても、2回目の受入フェーズの担当者は未割当になります。
教師けフェーズの担当者が検査/受入フェーズを担当してもダブルチェックにならない(品質の保証にならない)ため、このような制約を設けています。
ただし、「以前の担当者」がオーナーロールの場合は、例外としてこの制約は適用されません。
抜取受入率
タスクのフェーズが前段のフェーズ(教師付け/検査フェーズ)から受入フェーズに遷移したときに、受入作業が必要になる(スキップされない)確率を指定します。
デフォルトは100%で、受入作業はスキップされません。0%の場合は、必ず受入作業はスキップされます。受入作業がスキップされると、タスクのフェーズは「受入」、タスクの状態は「完了」になります。
抜取受入率によって受入作業がスキップされた場合は、タスク履歴の担当者列に「(抜取対象外)」と表示されます。
抜取受入率/抜取検査率が適用されないケース
対象のフェーズに、確認すべき検査コメントまたは保留コメントが残っている場合、そのフェーズは抜取受入率/抜取検査率が適用されず、必ず実施されます(スキップされない)。
たとえばタスクを差し戻す場合、受入担当者は検査コメントを付与して指摘します。そして、再提出されたタスクに対して、受入担当者は検査コメントと指摘されたアノテーションを確認して、検査コメントに「対応完了」または「対応不要」のステータスを指定する必要があります。再提出されたタスクは、確認すべき検査コメントが残っているため、抜取受入率は適用されず、必ず実施されます。
※annofabcli task reject コマンドを使うと、検査コメントを付与せずに差し戻すことができます。したがって、再提出されたタスクに、必ず確認すべき検査コメントが存在する訳ではありません。
抜取検査率
検査回数が1以上のときに表示されます。タスクのフェーズが前段のフェーズ(教師付けフェーズまたはN-1段階目の検査フェーズ)から検査フェーズに遷移したたときに、検査作業が必要になる(スキップされない)確率を指定します。
デフォルトは100%で、検査作業はスキップされません。0%の場合は、必ず検査作業はスキップされます。また、検査作業がスキップされると、検査フェーズ以降のフェーズもスキップされるため、タスクのフェーズは「受入」、タスクの状態は「完了」になります。
Updated 1 day ago