트리거 사용은 자제하시는게 좋을 것 같습니다.

1. 저장 프로시저를 사용하여 처리 하시고 오류 및결과에 대한 리턴값을 받아서 출력해 주시는게 좋을 것 같습니다.

1.check 제약 조건을 이용하는 방법.

2. amt를 입력하지 마시고 그냥 계산 필드로 처리하시는 방법

3. 입력단에서 값을 체크하셔서 저장하기전에 미리 제어를 하시는게 가장 좋습니다..

4. 트리거로 에러 메시지 조절/ Raiserror 이용

1.check 제약 조건을 이용하는 방법.예시
 create table testT
(
     idx int identity(1,1) ,
     col1 varchar(20) null ,
     cost numeric null ,
     qty  numeric null ,
     amt  numeric null
    
)    
 
ALTER TABLE testT ADD CONSTRAINT ck_numeric CHECK ( ISNUMERIC ( col1 ) = 1  );
GO
 
ALTER TABLE testT ADD CONSTRAINT ck_amt CHECK ( amt  = cost * qty  );
GO
 
 
insert into testT (col1  ,cost ,  qty , amt ) values('1111',1000 ,20, 20000)
insert into testT (col1  ,cost ,  qty , amt ) values('1111',1000 ,20, 21000)

BEGIN TRY
   insert into testT (col1  ,cost ,  qty , amt ) values('1111',1000 ,20, 205000)
END TRY
BEGIN CATCH
    SELECT
     --    ERROR_NUMBER() AS ErrorNumber
     --   ,ERROR_SEVERITY() AS ErrorSeverity
     --   ,ERROR_STATE() AS ErrorState
     --   ,ERROR_PROCEDURE() AS ErrorProcedure
     --   ,ERROR_LINE() AS ErrorLine
          case when CHARINDEX('ck_amt',ERROR_MESSAGE()) > 0
          then '금액이 잘못 계산되었습니다.'
          else
            case when CHARINDEX('ck_numeric',ERROR_MESSAGE()) > 0
            then 'col1에는 숫자만 입력하셔야 합니다.'
            end
           end
END CATCH;