首页 文章

Keras的多任务学习

提问于
浏览 次
2

我正在尝试在Keras中实现共享层 . 我确实看到Keras有 keras.layers.concatenate ，但我不确定有关其使用的文档 . 我可以用它来创建多个共享图层吗？使用Keras实现如下所示的简单共享神经网络的最佳方法是什么？
Shared Neural network

Edit 1: 请注意，所有3个NN的输入，输出和共享层的所有形状都是相同的 . 三个NN中有多个共享层（和非共享层） . 着色层对于每个NN是独特的，并且具有相同的形状 .

基本上，该图表示具有多个共享隐藏层的3个相同NN，其后是多个非共享隐藏层 .

我不确定如何在Twitter示例中共享多个层，只有一个共享层（API文档中的示例） .

Edit 2: 基于geompalik的有用评论，这是我最初提出的：

sharedLSTM1 = LSTM((data.shape[1]), return_sequences=True)
sharedLSTM2 = LSTM(data.shape[1])
def createModel(dropoutRate=0.0, numNeurons=40, optimizer='adam'):
    inputLayer = Input(shape=(timesteps, data.shape[1]))
    sharedLSTM1Instance = sharedLSTM1(inputLayer)
    sharedLSTM2Instance =  sharedLSTM2(sharedLSTM1Instance)
    dropoutLayer = Dropout(dropoutRate)(sharedLSTM2Instance)
    denseLayer1 = Dense(numNeurons)(dropoutLayer)
    denseLayer2 = Dense(numNeurons)(denseLayer1)
    outputLayer = Dense(1, activation='sigmoid')(denseLayer2)
    return (inputLayer, outputLayer)

inputLayer1, outputLayer1 = createModel()
inputLayer2, outputLayer2 = createModel()
model = Model(inputs=[inputLayer1, inputLayer2], outputs=[outputLayer1, outputLayer2])
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])

在上面的代码中，我希望两个模型中的LSTM层是共享的，而丢失和2个密集层是不共享的 . 那是对的吗？

如果是这样，我在这个例子中不需要 keras.layers.concatenate ，对吗？

如果我尝试使用 plot_model （这是我期待的）可视化网络，我会得到以下图像：

model plot

machine-learning neural-network deep-learning keras keras-layer

1 回答

  • 2

    使用Keras的功能API实现所示的体系结构非常简单 . Check this page了解更多信息 .

    在您的情况下，您将输入图层和第一个隐藏图层共享，然后为三个主题中的每一个创建一个图层 . 现在，设计模型的方式与数据的外观有关：例如，如果对于给定的输入，每个主题的输出都不同，则可以定义如下模型：

    model = Model(inputs=[you_main_input], outputs=[subject1_output, subject2_output, subject3_output])

    如果不是这种情况，并且您拥有与每个主题相对应的训练数据，则可以定义三个NN，并在它们之间共享前两个层 . 检查上述文档中的“共享图层” .

    回复于

相关问题