보통 이미지든 뭐든 생성을 할 때 모델이 가지고 있는 안전 체크는 많이 봤습니다.
유료 서비스들은 그런게 특히 잘 되어있죠. 폭력적이거나 엣지하거나 등등 시키거나 생성하지 못하는 일들이 많죠. 로컬 모델들은 그런 면에서 자유를 외치고 그래서 그걸 쓰는 사람들도 많은데 이번에 희안한 문제에서 부딪혔습니다.
바로 닫힌 커튼을 아침이 오면 열어버리는 문제였습니다.
분명 아침이 와도 커튼을 열지 말라! 라고 안먹히는 네거티브 프롬프트도 적어보고, 확실하게 행동 지시로 커튼을 여는 행동 자체를 안하고 다른 걸 시켜도 자동으로 커튼이 열립니다. 정말 미치고 환장할 노릇이죠(음?)
간단하게도 씬을 지시하기도 하고 복잡하게 모든 걸 묘사해서 프롬프트를 적어도 귀신 걸린거 마냥 계속 커튼이 열리니.. 이 문제로 하루를 썼습니다. 결국 방 장면 자체를 레퍼런스 이미지를 넣고 고정 시킨 후에야 귀신 들린 커튼을 잡았습니다. 결국 가장 오래 걸린 제작이 되었네요.
*이 노래는 에픽하이 가요제에서 타블로가 아내인 강혜정이 힘들 때 혼자서 어릴 때 보던 애니메이션을 본다는 것을 노래로 표현한 겁니다. 에픽하이 채널에 가셔서 가요제 2부 16분쯤 보면 내용이 나옵니다.
다른거에서도 비슷한 문제가 있었는데 리사의 SaWaDiKa를 만드는데 특정 부분에서 2d 이미지가 아니라 실사에 가깝게 출력이 되는 거였습니다. 특히 리사+패션쇼 가 붙자 지정하지도 않은 패션쇼 복장으로 실사 출력으로 변환되어 나오더군요. 그리고 복장에 따라 일부는 비슷한 복장일 때 바로 실사로 변환되어 나왔습니다. 그래도 이건 강력한 프롬프트로 결국 해결이 된 문제긴 합니다.
처음 빅뱅 때 마주친 문제긴 했는데 그 땐 캐릭터 레퍼런스로 빠르게 넘어가서 느끼지 못했지만, 기학습된 셀럽들의 데이터는 호출 만으로도 저장된 학습 이미지가 튀어나오는 것 이었습니다.
누가 테스트한 자료들도 있습니다.
https://huggingface.co/datasets/malcolmrey/various/blob/main/h3-center/known-characters/INDEX.md
이름 호출만으로도 특정 씬들이 생성될 수 있는 것들 입니다.
그래서 그 이후로는 실존하는 가수를 표현 할 때 실제 이름보다는 picture 1 로 단순하게 설명하고 쓰는 것으로 ai랑 합의 봤습니다(..) 혹시 제작하실 때 프롬프트로 아무리 설명하고 지지고 볶아도 안된다면 빠르게 포기하고 씬 내용을 수정하거나 빠르게 다른 방법으로 넘어가세요. 규칙에 예외는 없습니다, 아무리 제 아내라도요
