| 회사개요 |
IT대기업 |
| 모집제목 |
Security for AI 엔지니어 |
| 근무지역 |
경기도 |
| 제출서류 |
이력서, 경력기술서, 사진파일첨부(국문) |
| 전체경력 |
3년
이상 |
나이 |
제한없음
|
| 학력/전공 |
|
| 모집내용 |
담당업무
1. AI 모델 및 서비스 대상 공격 시험
• Prompt 조작을 통한 정책 우회(Jailbreak), 학습데이터·민감정보의 출력 노출, 에이전트 Tool Calling 권한 오용 등 공격 벡터별 취약점 시험
• Dual-Use 오용 경로의 설계·시험 및 자동화된 Red Teaming 도구 구축
2. AI 위험 식별 및 영향 평가
• 오용·남용 / 통제 이탈 등 발생 가능한 위험의 정의·분류 및 판단 임계 기준 설정
(NIST AI RMF, MITRE ATLAS, OWASP Top 10 for LLM Applications 등 참조)
• 위험의 원인·영향·필요 조치를 판단할 수 있는 형태로 평가 결과를 정리하고, AI Safety 담당 조직과 협업하여 문서화
3. 안전 평가 체계 구축 및 Guardrail 검증
• 보안 도메인 위험을 포괄하는 안전 평가 데이터셋 설계·구축 및 기존 분류 체계로 설명하기 어려운 사례의 보완
• 위험 요청 차단률과 정상 요청 과잉 차단을 동시에 관리하는 Guardrail·분류기의 성능 평가
• 발견한 문제의 재현 조건·실행 결과 기록 및 수정 후 재발 여부 검증
4. 모델 공개 조건 검토 및 실행
• 평가 결과에 근거한 공개 범위·조건 검토 및 판단 근거 문서화, 공개 이후 대응을 위한 재현 자료 관리
• Model Card, 데이터셋 명세, 학습 레시피, SBOM, Container Hash 등 공개 산출물 명세 정의
• 법무 조직과 협업하여 원천 데이터·기반 모델의 재배포 조건 및 라이선스 정합성 검토
5. 외부 검증 대응 및 선행 연구
• 공인기관(KOLAS 등)·제3자 평가기관 검증 대응(계획 수립, 증빙 구성, 재현성 확인) 및 외부 평가 결과의 내부 반영
• AI 공급망 보안·모델 무결성 검증 기술 조사와 후속 국책 과제의 AI 신뢰운용 기술 요건 정의 참여
자격요건
• 모의해킹, Red Teaming, 취약점 분석, 보안성 검토 중 하나 이상의 보안 분야 실무 경력을 3년 이상 보유하신 분
• 다음 두 가지 경험 중 하나 이상을 보유하신 분
- LLM 또는 AI 시스템을 대상으로 Prompt Injection, 정책 우회, 데이터 유출, Tool 오용 등의 공격을 설계·시험한 AI Red Teaming 경험
- 시스템 또는 제품의 보안성을 체계적으로 점검하고, 위험을 정의·분류하여 평가 결과와 조치 사항을 의사결정자에게 문서로 전달한 경험
• LLM의 동작 원리와 오용 경로에 대한 이해를 갖추신 분
• Python 기반 프로덕션 코드 작성 역량을 갖추신 분
우대사항
• AI Red Teaming과 보안 시험·검증 경험을 모두 보유하신 분
• AI 위협 분류 체계(OWASP Top 10 for LLM Applications, MITRE ATLAS 등) 활용 또는
위험 관리 프레임워크(NIST AI RMF, ISO/IEC 42001, EU AI Act 등)에 따른 위험·영향 평가 경험을 보유하신 분
• 안전 평가 데이터셋(유해성, 편향, 오용 등) 설계 또는 구축 경험을 보유하신 분
• 자동화된 Red Teaming 도구 또는 LLM 대상 자동 공격 기법 개발 경험을 보유하신 분
• Guardrail 및 분류기의 임계값 조정, 오탐·미탐 균형 관리 경험을 보유하신 분
• Model Card·SBOM·라이선스 정합성 등 오픈소스 모델·데이터셋 공개 또는 AI 공급망 보안 관련 경험을 보유하신 분
• 외부 평가기관 또는 공인시험기관 대응 경험을 보유하신 분
• 버그바운티 실적, AI 취약점 제보, 또는 AI 보안 분야 논문·컨퍼런스 발표·오픈소스 기여 이력을 보유하신 분 |
| 기타정보 |
|
|
