菜鸟教程小白 发表于 2022-12-12 11:41:04

ios - TensorFlow 在 iOS 上运行缓慢


                                            <p><p>我正在运行 <a href="https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/ios_examples/camera" rel="noreferrer noopener nofollow">camera iOS example</a>由 tensorflow 分发,速度很慢:在 iPhone6 上每次推理需要 4-5 秒,运行 <a href="https://storage.googleapis.com/download.tensorflow.org/models/inception5h.zip" rel="noreferrer noopener nofollow">inception5h.zip</a>型号。</p>

<p>据我了解,这是轻量级的 GoogleNet 模型,iOS 代码拉出它的第一个输出层,大约是完整模型的一半大小。我在我的 macbook 上使用 python 接口(interface)运行了相同的模型,每次推理需要 30 毫秒。</p>

<p>所以我想知道为什么在 iOS 上运行相同型号的速度比在 macbook 上慢 150 倍。似乎我做错了一些明显的事情。</p></p>
                                    <br><hr><h1><strong>Best Answer-推荐答案</ strong></h1><br>
                                            <p><p>这还没有很好的记录,但是您需要将优化标志传递给编译脚本以获得库的快速版本。这是一个例子:</p>

<p><code>tensorflow/contrib/makefile/compile_ios_tensorflow.sh "-Os"
</code></p>

<p>这应该会大大提高您的速度,非正式地,我看到在 5S 上使用 GoogLeNet 需要一秒钟或更短时间。</p></p>
                                   
                                                <p style="font-size: 20px;">关于ios - TensorFlow 在 iOS 上运行缓慢,我们在Stack Overflow上找到一个类似的问题:
                                                        <a href="https://stackoverflow.com/questions/37971426/" rel="noreferrer noopener nofollow" style="color: red;">
                                                                https://stackoverflow.com/questions/37971426/
                                                        </a>
                                                </p>
                                       
页: [1]
查看完整版本: ios - TensorFlow 在 iOS 上运行缓慢