Ich denke, die Problemumgehung besteht darin, dies zu einem Before-Trigger zu machen und den einzufügenden Datensatz selbst vor dem Einfügen zu aktualisieren.
Also
CREATE
/*!50017 DEFINER = 'admin'@'%' */
TRIGGER `trigger_liability_detail_after_insert` BEFORE INSERT ON `liability_detail`
FOR EACH ROW BEGIN
DECLARE SortOrder INT;
IF NEW.liability_category_id = 1 OR NEW.liability_category_id = 2 THEN
SET NEW.seq = 1 + IFNULL((SELECT MAX(seq) FROM liability_detail WHERE analysis_id = new.analysis_id AND liability_category_id IN (1, 2)), 0);
END IF;
END;
$$
Das war ein schnelles Kopieren/Einfügen, aber es sollte etwas in dieser Richtung sein.