Amazon Personalize Updates(~2021.04) 및 FAQ

PreviousAmazon Personalize - User Personalization Algorithm Deep Dive

Last updated 4 years ago

Was this helpful?

Amazon Personalize Updates(~2021.04) 및 FAQ

1. Personalize 기능 주요 업데이트 링크

Batch Recommendation (2019.11.18)
Context Recommendation (2019.12.20)
10x more Item Metadata Fields (2020.02.07)
Recommendation Score (2020.04.06)
Recommendation Filters (2020.06.08)
Handling missing metadata (2020.07.02)
User personalization (2020.08.17)
Incrementally add items and users (2020.10.02)
Training time improvement (2020.10.09)
Dynamic Filters for applying Business Rules (2020.11.13)

2. Simple Updates

Contextual Information

User-Personalization 또는 Personalized-Ranking 레시피를 사용하는 경우, user의 현재 위치, 사용중인 기기, 시간&요일 등의 메타 데이터 속성을 기반으로 추천 결과를 필터링할 수 있습니다. 이벤트 발생 시 사용자 환경에서 수집상황별 메타 데이터를 포함하면 기존 user에게 보다 개인화된 추천을 제공할 수 있습니다.

{
  "name": "DEVICE",
  "type": [
      "string",
      "null"
  ],
  "categorical": true
},
{
  "name": "TIMESTAMP",
  "type": "long"
},
{
  "name": "IMPRESSION",
  "type": "string"
}

Recommendation Score

수식에 의하면 item 셋의 모든 item을 대상으로 계산하기 때문에 점수를 상대적으로 해석해야 합니다. 예를 들어, item이 3개일 경우 score는 0.6, 0.3, 0.1이 될 수 있지만, 1만개일 경우 평균 점수는 1/10,000 이기에, 최고 score를 받은 item도 score가 작을 수 있습니다.

SIM와 Popularity-Count 모델은 이 기능을 지원하지 않습니다.

get_recommendations_response = personalize_runtime.get_recommendations(
    campaignArn = '[YOUR ARN]',
    userId = str(user_id),
)
item_list = get_recommendations_response['itemList']
item_list[0:2]

-> 
[{'itemId': '5989', 'score': 0.0095232},
 {'itemId': '7147', 'score': 0.0056224}]

Recommendation Filters

interaction 정보에 대한 필터링과 metadata 정보에 대한 필터링이 모두 가능합니다.
- 한 번 추천을 받고 유저가 선택(예: 클릭, 다운로드)한 것에 대해서, 다시 추천을 원하지 않을 경우 유용합니다.
- EXCLUDE itemId WHERE INTERACTIONS.event_type in ("Click","Download")
- interaction 필터링의 경우, 최근 100개의 실시간 interaction과 최근 200개의 historical interaction만 고려합니다.
- EXCLUDE ItemId WHERE item.genre in ("Comedy")

Null type

스키마 데이터타입 정의 시 null도 허용하게 업데이트됨으로써, 아래와 같은 타입들을 정의할 수 있습니다.

float / double / int / long / string / boolean / null

Dynamic Filters

IN, = operator에 dynamic filtering 적용이 가능합니다. 단, NOT IN, <, >, <=, >= operator는 여전히 static filter를 사용해야 합니다.
dollar sign($)을 사용하여 placehold 파라메터를 추가하고 상황에 따라 값을 설정해 줍니다.
예시: INCLUDE Item.ID WHERE items.GENRE IN ($GENRE) | EXCLUDE ItemID WHERE item.DESCRIPTION IN ("$DESC”)

3. Recipes

Popularity-count

모든 user의 행동 데이터를 기반으로 가장 인기 있는 item을 추천합니다. 별도의 하이퍼파라메터 설정이 필요 없으며, baseline 모델로 활용할 수 있습니다.

User-personalization

MAB에 대한 정보는 아래 블로그를 참조해 주세요.
주요 하이퍼파라메터
- recency_mask (Default = True): 이 값을 False로 지정 시, 최신 popularity 트랜드 결과를 반영하지 않습니다. 과거 아이템의 추천 비중을 높이고자 할 때는 False로 설정해 주세요.
- exploration_weight (Default = 0.3): 이 경우 70%는 interaction dataset에서, 30%는 item dataset에서 추천. 단, exploration_weight = 1이라고 100% item dataset에서 추천하는 것은 아니고 극히 적은 확률로 interaction dataset을 참조합니다.
- exploration_item_age_cut_off (Default = 30). interaction dataset의 가장 마지막 interaction 날짜(timestamp)를 기준으로 과거 30일 동안의 item을 item metaset에서 탐색합니다.
- min_user_history_length_percentile (Default = 0.0, range = [0, 1]): 솔루션 학습 시 너무 적은 user history를 배제합니다. 이 파라메터는 HPO 튜닝이 불가능합니다.
- max_user_history_length_percentile (Default = 0.99, range = [0, 1]): 솔루션 학습 시 너무 많은 user history를 배제합니다. 이 파라메터는 HPO 튜닝이 불가능합니다.

SIMS

Item-based 협업 필터링으로 cosine similiarity로 유사 아이템을 검색합니다. 직관적으로 user-item 상호 작용 정보를 통해 비슷한 user를 찾을 수 있기에, 내가 보지 않았지만 나와 비슷한 user가 봤던 item을 추천하는 것입니다.
Cold-start problem / sparsity / popularity bias 이슈가 있지만, 충분한 데이터가 확보되었다면 좋은 성능을 보여줍니다.
주요 하이퍼파라메터
- popularity_discount_factor (Default = 0.5, range = [0, 1]): 유사도를 계산할 때 popularity와 correlation 사이의 균형을 조절합니다. 0으로 설정 시, popular한 item만 선택합니다.
- min_cointeraction_count (Default = 3, range = [0, 10]): item pair 간의 유사성을 계산하는 데 필요한 최소 interaction 수입니다.
- min_user_history_length_percentile (Default = 0.005, range = [0, 1]): 솔루션 학습 시 너무 적은 user history를 배제합니다. 이 파라메터는 HPO 튜닝이 불가능합니다.
- max_user_history_length_percentile (Default = 0.995, range = [0, 1]): 솔루션 학습 시 너무 많은 user history를 배제합니다. 이 파라메터는 HPO 튜닝이 불가능합니다.
- min_item_interaction_count_percentile (Default = 0.01, range = [0, 1]): 솔루션 학습 시 포함할 최소 item interaction의 백분위수입니다. 이 파라메터는 HPO 튜닝이 불가능합니다.
- max_item_interaction_count_percentile (Default = 0.9, range = [0, 1]): 솔루션 학습 시 포함할 최대 item interaction의 백분위수입니다. 이 파라메터는 HPO 튜닝이 불가능합니다.

Personalized reranking

user의 과거 히스토리에 기반하여 개인화된 랭킹을 추천합니다.
주요 하이퍼파라메터
- recency_mask (Default = True): 이 값을 False로 지정 시, 최신 popularity 트랜드 결과를 반영하지 않습니다. 과거 아이템의 추천 비중을 높이고자 할 때는 False로 설정해 주세요.
- min_user_history_length_percentile (Default = 0.0, range = [0, 1]): 솔루션 학습 시 너무 적은 user history를 배제합니다. 이 파라메터는 HPO 튜닝이 불가능합니다.
- max_user_history_length_percentile (Default = 0.99, range = [0, 1]): 솔루션 학습 시 너무 많은 user history를 배제합니다. 이 파라메터는 HPO 튜닝이 불가능합니다.

4. Incremental User/Item/interaction

Adding New items and users

item, user 추가 기능은 User-personalization 레시피 사용을 권장합니다. User-personalization 레시피를 사용하지 않는 경우, 솔루션 재학습이 필요합니다.

신규 아이템 (PutItems)
- User-personalization 레시피를 사용하는 경우 솔루션을 재학습하는 것이 아닌 메타데이터셋을 업데이트하기에 곧바로 반영됩니다. 즉, 캠페인 업데이트 이후 추가된 아이템이 곧바로 추천에 반영됩니다.
- 필터링의 경우 20분 내에 반영됩니다.

personalize_events.put_items(
    datasetArn = 'dataset arn',
    items = [{
        'itemId': 'item ID',
        'properties': "{\"propertyName\": \"item data\"}"   
        },
        {
        'itemId': 'item ID',
        'properties': "{\"propertyName\": \"item data\"}"   
        }]
)

신규 아이템 추가뿐만 아니라 기존 아이템의 수정도 가능합니다. (사용 예시: 아이템의 속성이 변경되었을 때나, old 아이템을 더 이상 추천하고 싶지 않을 때 old item여부에 대한 property를 추가)

USER_ID = 81

# 신규 아이템 추가
personalize_events.put_items(
    datasetArn = item_dataset_arn,
    items = [{
        'itemId': str(ITEM_ID_LAST+1),
        'properties': "{\"genre\": \"Animation|Fantasy\", \"year\": 2021}"   
        },
        {
        'itemId': str(ITEM_ID_LAST+2),
        'properties': "{\"genre\": \"Horror|Crime\", \"year\": 2021}"   
        }]
)

# 아이템 수정
personalize_events.put_items(
    datasetArn = item_dataset_arn,
    items = [{
        'itemId': str(ITEM_ID_LAST+1),
        'properties': "{\"genre\": \"IMAX|Animation|Fantasy\", \"year\": 2021}"   
        },
        {
        'itemId': str(ITEM_ID_LAST+2),
        'properties': "{\"genre\": \"Western|Horror|Crime\", \"year\": 2021}"   
        }]
)

신규 유저 (PutUsers)
- 신규 유저 (userId가 없는 유저)의 경우 인기 아이템만 추천됩니다. PutEvents 작업에서 전달한 sessionId를 사용하여 이벤트가 유저와 연결되며, 이벤트 기록들이 계속 누적됩니다.
- 필터링의 경우 20분 내에 반영됩니다.

personalize_events.put_users(
    datasetArn = 'dataset arn',
    users = [{
        'userId': 'user ID',
        'properties': "{\"propertyName\": \"user data\"}"   
        },
        {
        'userId': 'user ID',
        'properties': "{\"propertyName\": \"user data\"}"   
        }]
)

Recording Real-time interaction events

User-personalization 레시피 사용시 솔루션(모델) 재학습 필요 없이, 2시간마다 백그라운드에서 솔루션 버전을 자동으로 업데이트합니다.

주의: 자동 업데이트는 모델 파라메터를 전면적으로 업데이트하는 것이 아니라, 내부 feature store에 PutEvent를 통해 쌓인 데이터를 interaction dataset에 업데이트하는 것입니다. 따라서, 일정 주기로 전체 재학습을 수행해야 합니다. (예: 1주일 단위로 재학습) 재학습 주기를 측정하기 위해 비즈니스 규칙을 활용하거나, 온라인 매트릭을 모니터링하면서 모델 드리프트 시점을 파악할 수 있습니다.

자동 업데이트에 대한 추가 과금은 없으며, 자동 업데이트 조건은 아래와 같습니다.

latest solution version의 trainingMode == FULL 이고, 신규 item 또는 신규 interactions data가 마지막으로 자동으로 업데이트한 이후에 있을 경우에만 업데이트됩니다. 업데이트 시점은 콘솔 화면의 campaign detail에서 확인 가능합니다.
다만, 생성한 솔루션(모델)이 2020년 11월 17일 이전이라면 새로 솔루션을 생성해야 하고, trainingMode = FULL로 세팅해야 합니다.
만약, 2시간 자동 업데이트 빈도가 적합하지 않은 경우에는(예: 30분 단위로 업데이트) trainingMode = UPDATE를 사용하여 신규 솔루션 버전을 생성하고 수동으로 업데이트할 수 있습니다. 단, 수동 업데이트 시에는 추가 비용이 발생합니다.
Event Tracker 생성

response = personalize.create_event_tracker(
    name='MovieClickTracker',
    datasetGroupArn='arn:aws:personalize:us-west-2:acct-id:dataset-group/MovieClickGroup'
)

PutEvents
- eventId는 unique event를 판별하기 위한 목적으로 모델에서 활용되지 않으며, eventId를 지정하지 않으면 자동으로 생성해 줍니다. eventType은 필수 값입니다.

personalize_events.put_events(
    trackingId = 'tracking_id',
    userId= 'USER_ID',
    sessionId = 'session_id',
    eventList = [{
        'sentAt': TIMESTAMP,
        'eventType': 'EVENT_TYPE',
        'properties': "{\"itemId\": \"ITEM_ID\"}"
        }]
)

# 여러 이벤트를 동시에 등록하는 것도 가능
personalize_events.put_events(
    trackingId = 'tracking_id',
    userId= 'user555',
    sessionId = 'session1',
    eventList = [{
        'eventId': 'event1',
        'sentAt': '1553631760',
        'eventType': 'like', # like 이벤트
        'properties': json.dumps({
            'itemId': 'choc-panama',
            'eventValue': 4,
            'numRatings': 0    
            })
        }, {
        'eventId': 'event2',
        'sentAt': '1553631782',
        'eventType': 'rating', # rating 이벤트
        'properties': json.dumps({
            'itemId': 'movie_ten',
            'eventValue': 3,
            'numRatings': 13
            })
        }]
)

# User-personalization 레시피에서 impression 데이터도 삽입 가능
# (itemId2&itemId3는 이후 추천 가능성 적어짐) 
personalize_events.put_events(
    trackingId = 'tracking_id',
    userId= 'userId',
    sessionId = 'sessionId',
    eventList = [{
        'eventId': 'event1',
        'eventType': 'rating',
        'sentAt': 1553631760,
        'itemId': 'item id',
        'recommendationId': 'recommendation id',
        'impression': ['itemId1', 'itemId2', 'itemId3']
        }]
)

5. FAQs

추천 결과가 너무 최근성만 반영되는데 어떻게 조절할까요?

User-personalization 레시피를 사용하고 hyperparameter의 recency_mask = False(Default=True)로 부여해 주세요. 그리고 필요에 따라 exploration_weight, exploration_item_age_cut_off 두 개의 파라메터도 조절합니다.
- recency_mask: 모델이 interaction 데이터셋의 최신 인기 트렌드를 고려할 지의 여부를 결정합니다. 만약 과거 모든 interaction에 동일한 가중치를 부여하고 싶다면 recency_mask를 false로 설정합니다.
- exploration_weight = 0.3 (Default) 이 경우 70%는 interaction dataset에서, 30%는 item dataset에서 추천. 단, exploration_weight = 1이라고 100% item dataset에서 추천하는 것은 아니고 극히 적은 확률로 interaction dataset을 참조합니다.
- exploration_item_age_cut_off = 30 (Default). interaction dataset의 가장 마지막 interaction 날짜(timestamp)를 기준으로 과거 30일 동안의 item을 item metaset에서 탐색합니다.
- 또한, item dataset의 데이터셋 필드에서 각 아이템에 대한 CREATION_TIMESTAMP를 입력하면 더욱 정확한 cold item의 추천이 가능합니다.
  - 예: A상품의 CREATION_TIMESTAMP: 2021/04/01, B상품의 CREATION_TIMESTAMP: 2021/03/01일 때 만약 exploration_item_age_cut_off = 20이고 전체 interaction dataset의 가장 마지막 timestamp가 2021/04/16이면, 3/28 이후에 있는 상품만 추천하게 되기에 B 상품은 추천이 되지 않습니다.
- 즉, exploration_weight, exploration_item_age_cut_off 두 파라메터의 값을 올리면 조금더 old 아이템이 추천이 되는 효과를 가질 수 있습니다.
- 또한, exploration_weight, exploration_item_age_cut_off는 학습과는 상관이 없기에 재학습 필요 없이 캠페인을 여러 개 생성해서 테스트할 수 있습니다.

특정 아이템을 너무 많이 추천해 줘요.

Interaction 데이터가 충분하지 않은 경우, 알고리즘이 popularity(인기도)에 대한 가중치를 높이기에 popularity bias 빈도가 늘어납니다. interaction 데이터를 충분히 확보하고 user-personalization 레시피의 하이퍼파라메터를 조절하세요.
SIMS recipe의 경우, 인기 위주의 유사 상품을 추천하고 item&user metadata를 이용하지 않기에 특정 아이템들 위주로 추천될 수 있습니다.

user dataset의 컬럼으로 필터링이 가능한가요?

item, interaction 컬럼만 필터링 가능하며, user의 경우는 CURRENTUSER만 가능합니다. (user 컬럼 불가능)
성공 예시
- INCLUDE ItemID WHERE Items.GENRE IN ("Comedy") IF CURRENTUSER.AGE > 20
- INCLUDE ItemID WHERE Items.GENRE IN ("Comedy") IF CURRENTUSER.GENDER = "F"
실패 예시
- EXCLUDE ItemID WHERE Items.GENRE IN (“Comedy”) IF users.AGE > 20 # CURRENTUSER만 가능하며, user 컬럼으로 필터링 불가능
- INCLUDE ItemID WHERE Items.GENRE IN ("Comedy") IF CURRENTUSER.DIV > 20 # User Meta에 정의되지 않는 경우
- INCLUDE ItemID WHERE Items.GENRE IN ("Comedy") IF CURRENTUSER.GENDER > 20 # 잘못된 조건을 입력하는 경우

프로덕션 반영 전 성능 테스트의 모범 사례를 알려 주세요.

캠페인 숫자의 제한이 5개인데 늘릴 수 있나요?

Soft Limit이기에 증가 요청 가능합니다. 아래 페이지를 참조해 주세요.
Limit 참

Latency가 너무 높습니다.

item 수가 너무 많을 경우(예: 2백만 개) 주로 발생합니다. 학습 시 item 개수는 75만개가 limit이며, 캠페인 배포 시에 item 개수에 따른 제한을 걸어 놓지는 않았지만, item 개수가 지나치게 많은 경우 모델 컨테이너에서 계산을 수행하는 데 시간이 걸립니다. 따라서, 가급적 75만개 미만으로 유지하는 것을 권장합니다. 또한, 저 적은 TPS로 부하 테스트를 시작하고 원하는 TPS로 부하를 늘려서 테스트해 보세요. 아래 limit을 같이 참조 부탁드립니다.
- Maximum number of items that are considered by a model during training. 750 thousand
- Maximum number of interactions that are considered by a model during training. 500 million
- Maximum number of GetRecommendations requests per second per campaign. 500/sec

References

PreviousAmazon Personalize - User Personalization Algorithm Deep Dive

Last updated 4 years ago

Was this helpful?