2018阿里广告点击率预估模型---DIN，Tensorflow2.0代码实践，并附上github

前言

最近看了2018年阿里在KDD上发表的论文《Deep Interest Network for Click-Through Rate Prediction》，想复现下，看了文章给出的github开源代码，发现环境是TF1.4的，并且注释太少，有些没大理解【还是太菜了】，因此准备参考原有代码使用TF2.0来对模型进行简单的复现。如果有些地方有些出入或者错误，请大佬们给我指出，感谢【因为现在没服务器，所以没像开源中跑完50个epoch】

数据分析

1、数据集为论文中的Amazon Dataset，下载并解压：

wget -c http://snap.stanford.edu/data/amazon/productGraph/categoryFiles/reviews_Electronics_5.json.gz
gzip -d reviews_Electronics_5.json.gz
wget -c http://snap.stanford.edu/data/amazon/productGraph/categoryFiles/meta_Electronics.json.gz
gzip -d meta_Electronics.json.gz

其中reviews_Electronics_5.json为用户的行为数据，meta_Electronics为广告的元数据。

reviews某单个样本如下：

{"reviewerID": "A2SUAM1J3GNN3B","asin": "0000013714","reviewerName": "J. McDonald","helpful": [2, 3],"reviewText": "I bought this for my husband who plays the piano.  He is having a wonderful time playing these old hymns.  The music  is at times hard to read because we think the book was published for singing from more than playing from.  Great purchase though!","overall": 5.0,"summary": "Heavenly Highway Hymns","unixReviewTime": 1252800000,"reviewTime": "09 13, 2009"
}

各字段分别为：

reviewerID：用户ID；
asin：物品ID；
reviewerName：用户姓名；
helpful ：评论帮助程度，例如上述为2/3；
reviewText ：文本信息；
overall ：物品评分；
summary：评论总结
unixReviewTime ：时间戳
reviewTime ：时间

meta某样本如下：

{
  "asin": "0000031852",
  "title": "Girls Ballet Tutu Zebra Hot Pink",
  "price": 3.17,
  "imUrl": "http://ecx.images-amazon.com/images/I/51fAmVkTbyL._SY300_.jpg",
  "related":
  {
    "also_bought": ["B00JHONN1S", "B002BZX8Z6", "B00D2K1M3O", "0000031909", "B00613WDTQ", "B00D0WDS9A", "B00D0GCI8S", "0000031895", "B003AVKOP2", "B003AVEU6G", "B003IEDM9Q", "B002R0FA24", "B00D23MC6W", "B00D2K0PA0", "B00538F5OK", "B00CEV86I6", "B002R0FABA", "B00D10CLVW", "B003AVNY6I", "B002GZGI4E", "B001T9NUFS", "B002R0F7FE", "B00E1YRI4C", "B008UBQZKU", "B00D103F8U", "B007R2RM8W"],
    "also_viewed": ["B002BZX8Z6", "B00JHONN1S", "B008F0SU0Y", "B00D23MC6W", "B00AFDOPDA", "B00E1YRI4C", "B002GZGI4E", "B003AVKOP2", "B00D9C1WBM", "B00CEV8366", "B00CEUX0D8", "B0079ME3KU", "B00CEUWY8K", "B004FOEEHC", "0000031895", "B00BC4GY9Y", "B003XRKA7A", "B00K18LKX2", "B00EM7KAG6", "B00AMQ17JA", "B00D9C32NI", "B002C3Y6WG", "B00JLL4L5Y", "B003AVNY6I", "B008UBQZKU", "B00D0WDS9A", "B00613WDTQ", "B00538F5OK", "B005C4Y4F6", "B004LHZ1NY", "B00CPHX76U", "B00CEUWUZC", "B00IJVASUE", "B00GOR07RE", "B00J2GTM0W", "B00JHNSNSM", "B003IEDM9Q", "B00CYBU84G", "B008VV8NSQ", "B00CYBULSO", "B00I2UHSZA", "B005F50FXC", "B007LCQI3S", "B00DP68AVW", "B009RXWNSI", "B003AVEU6G", "B00HSOJB9M", "B00EHAGZNA", "B0046W9T8C", "B00E79VW6Q", "B00D10CLVW", "B00B0AVO54", "B00E95LC8Q", "B00GOR92SO", "B007ZN5Y56", "B00AL2569W", "B00B608000", "B008F0SMUC", "B00BFXLZ8M"],
    "bought_together": ["B002BZX8Z6"]
  },
  "salesRank": {"Toys & Games": 211836},
  "brand": "Coxlures",
  "categories": [["Sports & Outdoors", "Other Sports", "Dance"]]
}

各字段分别为：

asin ：物品ID；
title ：物品名称；
price ：物品价格；
imUrl ：物品图片的URL；
related ：相关产品(也买，也看，一起买，看后再买)；
salesRank：销售排名信息；
brand ：品牌名称；
categories ：该物品属于的种类列表；

2、首先将原生数据存储的json格式转化为pickle数据流格式，方便读取：

def to_df(file_path):
    """
    转化为DataFrame结构
    :param file_path: 文件路径
    :return:
    """
    with open(file_path, 'r') as fin:
        df = {}
        i = 0
        for line in fin:
            df[i] = eval(line)
            i += 1
        df = pd.DataFrame.from_dict(df, orient='index')
        return df

reviews_df = to_df('../raw_data/reviews_Electronics_5.json')

# 可以直接调用pandas的read_json方法，但会改变列的顺序
# reviews2_df = pd.read_json('../raw_data/reviews_Electronics_5.json', lines=True)

# 序列化保存
with open('../raw_data/reviews.pkl', 'wb') as f:
    pickle.dump(reviews_df, f, pickle.HIGHEST_PROTOCOL)

meta_df = to_df('../raw_data/meta_Electronics.json')
# 只保留review_df出现过的广告
meta_df = meta_df[meta_df['asin'].isin(reviews_df['asin'].unique())]
meta_df = meta_df.reset_index(drop=True)

with open('../raw_data/meta.pkl', 'wb') as f:
    pickle.dump(meta_df, f, pickle.HIGHEST_PROTOCOL)

3、对reaviews和meta数据进行处理：

reviews选取'reviewerID', 'asin', 'unixReviewTime'列，并将用户ID、物品ID【通过meta】映射为数值；
meta选取'asin', 'categories'列，物品种类只选取列表最后一个，并将物品ID、种类ID进行映射；
统计用户人数user_count、物品总数item_count，总样本数sample_count；
保存reviews数据、物品种类列表、各个数值数据以及映射字典；

def build_map(df, col_name):
    """
    制作一个映射，键为列名，值为序列数字
    :param df: reviews_df / meta_df
    :param col_name: 列名
    :return: 字典，键
    """
    key = sorted(df[col_name].unique().tolist())
    m = dict(zip(key, range(len(key))))
    df[col_name] = df[col_name].map(lambda x: m[x])
    return m, key


# reviews
reviews_df = pd.read_pickle('../raw_data/reviews.pkl')
reviews_df = reviews_df[['reviewerID', 'asin', 'unixReviewTime']]

# meta
meta_df = pd.read_pickle('../raw_data/meta.pkl')
meta_df = meta_df[['asin', 'categories']]
# 类别只保留最后一个
meta_df['categories'] = meta_df['categories'].map(lambda x: x[-1][-1])

# meta_df文件的物品ID映射
asin_map, asin_key = build_map(meta_df, 'asin')
# meta_df文件物品种类映射
cate_map, cate_key = build_map(meta_df, 'categories')
# reviews_df文件的用户ID映射
revi_map, revi_key = build_map(reviews_df, 'reviewerID')

# user_count: 192403 item_count: 63001 cate_count: 801 example_count: 1689188
user_count, item_count, cate_count, example_count = \
    len(revi_map), len(asin_map), len(cate_map), reviews_df.shape[0]
# print('user_count: %d\titem_count: %d\tcate_count: %d\texample_count: %d' %
#       (user_count, item_count, cate_count, example_count))

# 按物品id排序，并重置索引
meta_df = meta_df.sort_values('asin')
meta_df = meta_df.reset_index(drop=True)

# reviews_df文件物品id进行映射，并按照用户id、浏览时间进行排序，重置索引
reviews_df['asin'] = reviews_df['asin'].map(lambda x: asin_map[x])
reviews_df = reviews_df.sort_values(['reviewerID', 'unixReviewTime'])
reviews_df = reviews_df.reset_index(drop=True)
reviews_df = reviews_df[['reviewerID', 'asin', 'unixReviewTime']]

# 各个物品对应的类别
cate_list = np.array(meta_df['categories'], dtype='int32')

# 保存所需数据为pkl文件
with open('../raw_data/remap.pkl', 'wb') as f:
    pickle.dump(reviews_df, f, pickle.HIGHEST_PROTOCOL)
    pickle.dump(cate_list, f, pickle.HIGHEST_PROTOCOL)
    pickle.dump((user_count, item_count, cate_count, example_count),
                f, pickle.HIGHEST_PROTOCOL)
    pickle.dump((asin_key, cate_key, revi_key), f, pickle.HIGHEST_PROTOCOL)

4、构建数据集

with open('raw_data/remap.pkl', 'rb') as f:
    reviews_df = pickle.load(f)
    cate_list = pickle.load(f)
    user_count, item_count, cate_count, example_count = pickle.load(f)

train_set, test_set = [], []

# 最大的序列长度
max_sl = 0

"""
生成训练集、测试集，每个用户所有浏览的物品（共n个）前n-1个为训练集（正样本），并生成相应的负样本，每个用户
共有n-2个训练集（第1个无浏览历史），第n个作为测试集。
"""
for reviewerID, hist in reviews_df.groupby('reviewerID'):
    # 每个用户浏览过的物品，即为正样本
    pos_list = hist['asin'].tolist()
    max_sl = max(max_sl, len(pos_list))

    # 生成负样本
    def gen_neg():
        neg = pos_list[0]
        while neg in pos_list:
            neg = random.randint(0, item_count - 1)
        return neg

    # 正负样本比例1：1
    neg_list = [gen_neg() for i in range(len(pos_list))]

    for i in range(1, len(pos_list)):
        # 生成每一次的历史记录，即之前的浏览历史
        hist = pos_list[:i]
        sl = len(hist)
        if i != len(pos_list) - 1:
            # 保存正负样本，格式：用户ID，正/负物品id，浏览历史，浏览历史长度，标签（1/0）
            train_set.append((reviewerID, pos_list[i], hist, sl, 1))
            train_set.append((reviewerID, neg_list[i], hist, sl, 0))
        else:
            # 最后一次保存为测试集
            test_set.append((reviewerID, pos_list[i], hist, sl, 1))
            test_set.append((reviewerID, neg_list[i], hist, sl, 0))

# 打乱顺序
random.shuffle(train_set)
random.shuffle(test_set)

assert len(test_set) == user_count

# 写入dataset.pkl文件
with open('dataset/dataset.pkl', 'wb') as f:
    pickle.dump(train_set, f, pickle.HIGHEST_PROTOCOL)
    pickle.dump(test_set, f, pickle.HIGHEST_PROTOCOL)
    pickle.dump(cate_list, f, pickle.HIGHEST_PROTOCOL)
    pickle.dump((user_count, item_count, cate_count, max_sl), f, pickle.HIGHEST_PROTOCOL)

模型构建

在这里插入图片描述

1、定义模型所需的各种层

class DIN(tf.keras.Model):
    def __init__(self, user_num, item_num, cate_num, cate_list, hidden_units):
        """
        :param user_num: 用户数量
        :param item_num: 物品数量
        :param cate_num: 物品种类数量
        :param cate_list: 物品种类列表
        :param hidden_units: 隐藏层单元
        """
        super(DIN, self).__init__()
        self.cate_list = tf.convert_to_tensor(cate_list, dtype=tf.int32)
        self.hidden_units = hidden_units
        # self.user_embed = tf.keras.layers.Embedding(
        #     input_dim=user_num, output_dim=hidden_units, embeddings_initializer='random_uniform',
        #     embeddings_regularizer=tf.keras.regularizers.l2(0.01), name='user_embed')
        self.item_embed = tf.keras.layers.Embedding(
            input_dim=item_num, output_dim=self.hidden_units, embeddings_initializer='random_uniform',
            embeddings_regularizer=tf.keras.regularizers.l2(0.01), name='item_embed')
        self.cate_embed = tf.keras.layers.Embedding(
            input_dim=cate_num, output_dim=self.hidden_units, embeddings_initializer='random_uniform',
            embeddings_regularizer=tf.keras.regularizers.l2(0.01), name='cate_embed'
        )
        self.dense = tf.keras.layers.Dense(self.hidden_units)
        self.bn1 = tf.keras.layers.BatchNormalization()
        self.concat = tf.keras.layers.Concatenate(axis=-1)
        self.att_dense1 = tf.keras.layers.Dense(80, activation='sigmoid')
        self.att_dense2 = tf.keras.layers.Dense(40, activation='sigmoid')
        self.att_dense3 = tf.keras.layers.Dense(1)
        self.bn2 = tf.keras.layers.BatchNormalization()
        self.concat2 = tf.keras.layers.Concatenate(axis=-1)
        self.dense1 = tf.keras.layers.Dense(80, activation='sigmoid')
        self.activation1 = tf.keras.layers.PReLU()
        # self.activation1 = Dice()
        self.dense2 = tf.keras.layers.Dense(40, activation='sigmoid')
        self.activation2 = tf.keras.layers.PReLU()
        # self.activation2 = Dice()
        self.dense3 = tf.keras.layers.Dense(1, activation=None)

2、根据模型图，首先是对User Behaviors、Candidate Ad的embedding进行构建。在该数据集中，需要联合Goods ID和Cate ID。【因为User的gender、age信息不存在，并不需要进行User自身属性的embedding】

    def call(self, inputs):
      # user为用户ID，item为物品id，hist为之前的历史记录，即物品id列表，sl为最大列表长度
        user, item, hist, sl = inputs[0], tf.squeeze(inputs[1], axis=1), inputs[2], tf.squeeze(inputs[3], axis=1)
        # user_embed = self.u_embed(user)
        item_embed = self.concat_embed(item)
        hist_embed = self.concat_embed(hist)
        ......

    def concat_embed(self, item):
        """
        拼接物品embedding和物品种类embedding
        :param item: 物品id
        :return: 拼接后的embedding
        """
        # cate = tf.transpose(tf.gather_nd(self.cate_list, [item]))
        cate = tf.gather(self.cate_list, item)
        cate = tf.squeeze(cate, axis=1) if cate.shape[-1] == 1 else cate
        item_embed = self.item_embed(item)
        item_cate_embed = self.cate_embed(cate)
        embed = self.concat([item_embed, item_cate_embed])
        return embed

3、根据模型，再根据候选广告的内容对用户行为中的物品embedding做attention机制，即与候选广告相似的物品embedding赋予更大的权重。

      def call(self, inputs):
      ......
        # 经过attention的物品embedding
        hist_att_embed = self.attention(item_embed, hist_embed, sl)
        hist_att_embed = self.bn1(hist_att_embed)
        hist_att_embed = tf.reshape(hist_att_embed, [-1, self.hidden_units * 2])
        u_embed = self.dense(hist_att_embed)  
        ......
        
    def attention(self, queries, keys, keys_length):
        """
        activation unit
        :param queries: 候选广告（物品）embedding
        :param keys: 用户行为（历史记录）embedding
        :param keys_length: 用户行为embedding中的有效长度
        :return:
        """
        # 候选物品的隐藏向量维度，hidden_unit * 2
        queries_hidden_units = queries.shape[-1]
        # 每个历史记录的物品embed都需要与候选物品的embed拼接，故候选物品embed重复keys.shape[1]次
        # keys.shape[1]为最大的序列长度，即431，为了方便矩阵计算
        # [None, 431 * hidden_unit * 2]
        queries = tf.tile(queries, [1, keys.shape[1]])
        # 重塑候选物品embed的shape
        # [None, 431, hidden_unit * 2]
        queries = tf.reshape(queries, [-1, keys.shape[1], queries_hidden_units])
        # 拼接候选物品embed与hist物品embed
        # [None, 431, hidden * 2 * 4]
        embed = tf.concat([queries, keys, queries - keys, queries * keys], axis=-1)
        # 全连接, 得到权重W
        d_layer_1 = self.att_dense1(embed)
        d_layer_2 = self.att_dense2(d_layer_1)
        # [None, 431, 1]
        d_layer_3 = self.att_dense3(d_layer_2)
        # 重塑输出权重类型, 每个hist物品embed有对应权重值
        # [None, 1, 431]
        outputs = tf.reshape(d_layer_3, [-1, 1, keys.shape[1]])

        # Mask
        # 此处将为历史记录的物品embed令为True
        # [None, 431]
        key_masks = tf.sequence_mask(keys_length, keys.shape[1])
        # 增添维度
        # [None, 1, 431]
        key_masks = tf.expand_dims(key_masks, 1)
        # 填充矩阵
        paddings = tf.ones_like(outputs) * (-2 ** 32 + 1)
        # 构造输出矩阵，其实就是为了实现【sum pooling】。True即为原outputs的值，False为上述填充值，为很小的值，softmax后接近0
        # [None, 1, 431] ----> 每个历史浏览物品的权重
        outputs = tf.where(key_masks, outputs, paddings)
        # Scale，keys.shape[-1]为hist_embed的隐藏单元数
        outputs = outputs / (keys.shape[-1] ** 0.5)
        # Activation，归一化
        outputs = tf.nn.softmax(outputs)
        # 对hist_embed进行加权
        # [None, 1, 431] * [None, 431, hidden_unit * 2] = [None, 1, hidden_unit * 2]
        outputs = tf.matmul(outputs, keys)
        return outputs

4、对候选广告embedding、经过sum pooling的历史记录embedding进行拼接：

    def call(self, inputs):
        ......
        item_embed = tf.reshape(item_embed, [-1, item_embed.shape[-1]])
        # 联合用户行为embedding、候选物品embedding、【用户属性、上下文内容特征】
        embed = self.concat2([u_embed, item_embed])

5、进行MLP过程

    def call(self, inputs):
        ......
        x = self.bn2(embed)
        x = self.dense1(x)
        x = self.activation1(x)
        x = self.dense2(x)
        x = self.activation2(x)
        x = self.dense3(x)
        outputs = tf.nn.sigmoid(x)
        return outputs

输入处理

这里我们对历史记录进行了处理【参考论文的开源代码】，因为每个用户的序列长度是不同的，在情感识别等NLP领域，输入RNN等模型时需要将句子进行截断或添加。这里作者也进行了类似的处理，不过在【开源代码】中，作者是取每个batch_size中的所有用户中最长的历史记录长度作为矩阵的列数，但这里我们是取所有用户的最长(max_sl)，对长度不够的在最后进行添0处理【这样增加了内存消耗，但我不知道如何在TF2.0中如何处理】

def input_data(dataset, max_sl):
    user = np.array(dataset[:, 0], dtype='int32')
    item = np.array(dataset[:, 1], dtype='int32')
    hist = dataset[:, 2]
    hist_matrix = tf.keras.preprocessing.sequence.pad_sequences(hist, maxlen=max_sl, padding='post')

    sl = np.array(dataset[:, 3], dtype='int32')
    y = np.array(dataset[:, 4], dtype='float32')

    return user, item, hist_matrix, sl, y

训练

然后就是正常的进行模型编译、训练。

Github

上传了自己的github：https://github.com/BlackSpaceGZY/Recommended-System

并还实现了NCF的TF2.0实现。【大佬给个star吧】

微信公众号

潜心的Python小屋
在这里插入图片描述

查看全文
如若内容造成侵权/违法违规/事实不符，请联系编程学习网邮箱：809451989@qq.com进行投诉反馈，一经查实，立即删除！

NOJ：分数化小数
答案给的代码输出不对居然还AC……因为要判断四舍五入的情况，所以必须有数组。#include<stdio.h> int main() {int a,b,c,t=0,d[t],i;scanf("%d%d%d",&a,&b,&c);d[t]=a%b;printf("%d.",a/b);for(i=0;i<c;i++){d[t]=10*d[t];if(i==(c…...
2024/4/20 1:06:32
2w字长文给你讲透了配置类为什么要添加 @Configuration注解，是时候应该安排一下了！
Spring 用的爽不爽？在你爽的同时，你也知道为什么这么爽，在 Spring 中，@Configuration 是一个重重重要的注解，那么配置类为什么要添加 @Configuration 注解呢？本篇文章就带你 get 这个点。不加 @Configuration 导致的问题我们先来看看如果不在配置类上添加 @Configuratio…...
2024/4/16 14:26:10
web靶机系列-命令注入
主机：192.168.136.133 靶机：192.168.136.139 用nmap、nikto扫描操作发现在robots.txt下存在五个文件在nothing的页面源代码下发现有五个密码在刚刚的nikto的扫描中存在一个/secure/文件，打开发现一个压缩包压缩包需要密码，经测试密码是freedom，但解压后的文件是txt文件。需…...
2024/4/16 14:26:00
查询数据库带别名
SELECT * from (select distinct camera_name as chejian,count(camera_name) as shuliang from camera_monitor_log GROUP BY camera_name)A where 1=1...
2024/5/4 0:00:05
shell 命令
xargs查到以"._"开头的文件，并删除find . -name "._*" -print0 | xargs -0 rm -rf...
2024/4/16 14:26:10
#{}和${}的区别
一相同点都可以获取map或者JavaBean中的信息二不同点 # 1.#是预编译处理(是什么) 2.mybatis在处理#的时候,会将sql中的#{}替换为?号,调用预编译语句(PreparedStatement)中的set注入参数(这也是为什么变成问号的原因) 3.会在sql中加上单引号,所以会相对安全,不会有sql注入问…...
2024/5/4 2:00:32
软件开发流程
（针对性、精确性、清晰性、完整性、灵活性、可追溯性）需求阶段1、可行性分析报告说明该软件开发项目的实现在技术上、经济上和社会因素上的可行性，评述为了合理地达到开发目标可供选择的各种可能实施方案，说明并论证所选定实施方案的理由。2、项目开发计划为软件项目实施方…...
2024/4/16 14:27:23
Qt与MSVC中文乱码问题的解决方案
一、问题是什么？在学习Qt编程的过程中，大多数人都遇到过中文乱码的问题。总结起来有三类：1. Qt Creator中显示的汉字变为乱码，编辑器上方有“Could not decode "..." with "UTF-8"-encoding. Editing not possible.”的错误提示。此时，出现乱码的文档…...
2024/4/24 8:40:12
hbuilderx浏览器运行尚不支持此种类型文件
编译uniapp项目时报错“hbuilderx浏览器运行尚不支持此种类型文件”。解决方案：右键hbuilderx.exe以管理员身份运行。然后会自动下载依赖和编译工具等。然后出现报错：“依赖插件还未加载,请稍后重试”解决办法: HBuildX开发工具菜单工具栏,依次点击工具–>插件安装–&…...
2024/5/4 6:11:22
Servlet页面跳转
Servlet页面跳转出现黄屏一下是为什么？求大佬分析分析...
2024/5/4 5:51:13
JSP自定义标签 foreach select
JSP自定义标签 foreach select续集（上篇博客地址）①foreachforeach助手类②selectselect助手类③总结续集（上篇博客地址）上篇博客地址 ①foreach foreach助手类 package com.tanle.jsp;import java.util.Iterator; import java.util.List;import javax.servlet.jsp.J…...
2024/5/1 4:20:29
linux下修改mariadb数据库文件的路径
CentOS7下修改mariadb数据库文件的路径 mariadb默认的数据文档存储目录为/var/lib/mysql，要想将默认创建目录改成/Exdisk/Mysql Step 1: 创建新文件夹(要给这个目录至少要附加读写权限) [root@YunDisk Exdisk]# mkdir Mysql [root@YunDisk Exdisk]# chmod 775 MysqlStep 2: 停…...
2024/5/4 6:40:15
Mysql多表查询，取出其中一张表的最大的数据或者去重的字段
需求：1、查询三张表共同存在的数据（本来用的内连接） 2、后来要求再加一张表，把这张表的最大数据查出来合到一起（外键管理订单号） SELECT @ROW := @ROW + 1 AS DT_RowId,tzo.order_id,tzo.order_num,tzu.user_phone,FROM_UNIXTIME(tzv.creat_time , %Y-%m-%d ) AS creat_t…...
2024/4/27 8:41:06
Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:2.0.1:compile (default-compile
解决办法：添加上<source>1.8</source> <target>1.8</target>```bash<plugins><plugin><groupId>org.apache.maven.plugins</groupId><artifactId>maven-compiler-plugin</artifactId><version>2.0.1</v…...
2024/4/24 8:40:09
截取倒数第二个“/”符号后的字符串
// 转换成JSON格式，然后截取倒数第二个“/”符号后的字符 let arrr = JSON.parse(res.data); let arr = arrr.data; //截取看这句就行 let jieArr = arr.substring(arr.lastIndexOf("/",arr.lastIndexOf("/")-1)+1);...
2024/5/4 1:36:14
宜信davinci搭建
宜信davinci搭建下载docker镜像地址为 https://github.com/edp963/davinci-docker 修改配置信息这里尤其要注意修改邮箱部分 environment: - SERVER_ADDRESS=0.0.0.0 - SPRING_DATASOURCE_URL=jdbc:mysql://mysql:3306/davinci0.3?useUnicode=true&characterEncoding=UT…...
2024/4/24 8:40:05
无代码开发和传统开发的区别—白码
传统应用程序开发需要技术人员编写大量的代码，而无代码开发平台无需编写代码就能够完成应用程序的开发，这可能是表面上它们之间最大的区别。那么它们还有什么其他什么本质的区别呢？下面一起来了解一下相关的知识吧！传统的API接口集成方式：传统的集成方式，企业需要技术人员…...
2024/4/24 8:40:04
元学习gradient descent as LSTM（2）--李宏毅老师课程学习笔记
我们发现meta learning中的结构与RNN比较相似，具体看下面两篇论文是讲这个的。RNN是用同一个单元去处理很长的句子，因为每次只吃一个单词。现在基本用LSTM，通过结构发现Ct的特殊，同时由于它改变较慢，因此LSTM能够储存较长之间之前的词。复习一下LSTM：这个图和上面的图进行…...
2024/4/24 8:40:02
java注解机制
* * •Annotation的作用： – 不是程序本身，可以对程序作出解释。 (这一点，跟注释没什么区别) –* 可以被其他程序(比如：编译器等)读取。 (注解信息处理流程，是注解和注释的重大区别。如果没有注解信息处理流程，则注解毫无意义)* 给类添加注解，…...
2024/4/28 14:49:26
mongoDB的分页查询
...
2024/4/16 14:27:01