프로젝트를 만들 때 타 사이트의 DB를 크롤링했다면, 배포 후 프로젝트가 검색엔진에 노출될 경우 저작권 관련 문제가 발생할 수 있다. 따라서 프로젝트가 검색엔진에 노출되지 않도록 막아야 한다.
- NOINDEX란?
검색엔진 웹 크롤러는 페이지를 크롤링할 때 noindex 태그나 헤더를 발견하면 다른 사이트가 페이지에 연결되어 있는지와 관계없이 페이지 전체를 검색결과에서 제외한다.
<!-- 대부분의 검색엔진 웹 크롤러 차단 -->
<meta name="robots" content="noindex">
<!-- 구글 검색엔진 웹 크롤러만 차단 -->
<meta name="googlebot" content="noindex">

- 참고 사이트
'NOINDEX'를 사용하여 검색 색인 생성 차단 | Google 검색 센터 | 문서 | Google Developers
NOINDEX 태그는 Google이 페이지의 색인을 생성하는 것을 차단하여 Google 검색결과에 페이지가 표시되지 않도록 할 수 있습니다. 이 가이드에서 NOINDEX 태그를 구현하는 방법을 알아보세요.
developers.google.com